مایک کانن بروکس از Atlassian: عوامل هوش مصنوعی نیاز به یک برچسب نام دارند و یک انسان برای اشتباهاتشان مقصر است.
Cannon-Brookes میگوید سختترین بخش سرکار گذاشتن نمایندگان، مدل نیست، بلکه رابط کاربری و مسئولیتپذیری آن است.
مایک کانن بروکس، یکی از بنیانگذاران Atlassian، نمی خواهد که «هوش مصنوعی این کار را انجام داد» به بهانه ای برای اداره تبدیل شود.
کانن بروکس در حاشیه مسابقات جایزه بزرگ سنگاپور به فورچون گفت: "این ChatGPT از طرف مایک است. مثلا مایک از ChatGPT استفاده می کند. این ChatGPT این کار را انجام نمی دهد." "مسئولیت با مایک است. در نهایت باید با کاربر نهایی باشد."
در 6 اکتبر، Atlassian "پروتکل چند نفره عامل" خود را عرضه کرد، یک هواپیمای کنترلی که عوامل هوش مصنوعی را به اعضای قابل مشاهده و کنترل شده تیم های کاری با نمایه های متمایز و اسناد مالک تبدیل می کند.
در عمل، ویرایشهای یک نماینده باید در تاریخچه یک سند به همان شکلی که ویرایشهای یک همکار نشان داده میشود، نشان داده شود. کانن بروکس گفت: "شما باید بتوانید ببینید چه کسی چه زمانی چه کاری انجام داده است." ممکن است یک برنامه - به نادرستی، از دید کانن بروکس - بگوید که Codex یک ویرایش انجام داده است. او تایید کرد: نه، اینطور نشد، یک نفر این کار را کرد.
موجی از عوامل هوش مصنوعی شخصی، مانند Meta’s Muse و OpenAI’s Dots، اکنون وارد بازار شدهاند. از نظر Cannon-Brookes، این محصولات "یک مهار عامل را می گیرند و تعامل را تغییر می دهند تا آن را نامرئی کنند، در مورد آنچه که انجام می دهد"، Agents در پشت صحنه عملیات پیچیده ای را انجام می دهند، حتی اگر آنچه کاربر می خواهد نسبتا ساده باشد.
این ممکن است در یک محیط مصرف کننده خوب باشد، اما در یک محل کار نه. او گفت: «اگر چیزی در Muse میسازید، احتمالا فقط برای شماست. "در یک محل کار، گفتگوهای زیادی در مورد مجوزها، امنیت و انطباق وجود دارد."
به یک کارمند یا عامل هوش مصنوعی اجازه داده می شود تا محتوایی بر اساس اطلاعات ممتاز ایجاد کند، می تواند به سرعت مشکلاتی را ایجاد کند. کانن بروکس به یک مثال اشاره کرد: کارمندی که از اسناد شرکت برای ایجاد نمودار بصری استفاده می کند. اما اگر این بر اساس اسناد [داخلی] است، اگر آن را برای هر کسی ارسال میکنید، باید بسیار مراقب باشید، آنها میتوانند همان اسناد را ببینند و شما نمیخواهید اطلاعات را درز کنید.»
بدتر از آن، درک بیشتر رابط های هوش مصنوعی دشوار است. Cannon-Brookes گفت: "هوش مصنوعی می تواند کارهای شگفت انگیز و فوق العاده قدرتمند انجام دهد. اکثر مردم کارهای بسیار اساسی را به دلیل رابط کاربری انجام می دهند." "تجربه بسیار ضعیف است."
او قیاسی با واژه پرداز، شاید فراگیرترین نرم افزار محل کار، ترسیم کرد. او توضیح داد: «اگر با نوار ابزار به مایکروسافت ورد فکر کنید، نحوه استفاده از حروف برجسته و کج را یاد میگیرید. "اگر همه اینها ناپدید شوند و فقط میانبرهای صفحه کلید باشد، اسناد همه مانند متن ساده به نظر می رسند."
در سال 2024، این شرکت Rovo را راه اندازی کرد، یک دستیار هوش مصنوعی داخلی که برای اتصال افراد، پروژه ها، کدها و دانش شرکت در سراسر Atlassian و پلتفرم های مختلف خارجی طراحی شده بود. Cannon-Brookes با اشاره به ویژگیهایی که به کاربران اجازه میدهد حسابهای Atlassian خود را با ابزارهای شخص ثالث مانند Figma، Codex یا Claude مرتبط کنند و بهطور یکپارچه بین آنها جابهجا شوند، گفت: «ما مجبور شدیم الگوهای طراحی پایه جدیدی اختراع کنیم که به نظر آشنا میرسند.
ساختمانی از استرالیا
Atlassian با ابزار ردیابی اشکال Jira و پلتفرم همکاری Confluence نام خود را به دست آورد. این تبدیل به استاندارد برای صحنه فناوری استرالیا شده است که اکنون شامل پلتفرم طراحی Canva و شرکت پرداخت Airwallex است.
به گزارش رویترز، شرکت مستقر در سیدنی در سه ماهه منتهی به 30 ژوئن 1.8 میلیارد دلار درآمد ایجاد کرد که بر اساس برآوردهای تحلیلگران از میانگین 1.7 میلیارد دلاری پیشی گرفت. (این شرکت همچنین در ماه مارس نیروی کار خود را 10 درصد کاهش داد - حرکتی که تقریبا 1600 کارمند را تحت تأثیر قرار داد - به عنوان بخشی از محوری برای فروش هوش مصنوعی و سازمانی.)
کانن بروکس گفت: «استرالیا اکوسیستم فناوری شگفت انگیزی دارد. ما قصد نداریم همه چیز را بسازیم زیرا کشوری کاملا کوچک هستیم... اما در استفاده از سیستمهای عامل، پایگاههای اطلاعاتی و مدلهای هوش مصنوعی و استفاده از آنها برای مشکلات برای ایجاد ارزش اقتصادی و تولید ناخالص داخلی خوب هستیم.»
او افزود: "ما تقریبا 1 درصد از تولید ناخالص داخلی جهان هستیم. ما باید 1 درصد از تولید فناوری جهان را داشته باشیم."
Cannon-Brookes از نگرانیها مبنی بر اینکه فاصله باعث میشود شرکتهای فناوری استرالیا با سرمایهگذاران و مشتریان آمریکایی قطع شوند، کنار گذاشته شد.
او گفت: «در اکثر شرکتهای فناوری استرالیا، شما خیلی سریع جهانی هستید. اولین مشتری ما در انگلیس بود و مشتری دوم ما در سوئد... ما بازار مصرفی زیادی در استرالیا نداریم، بنابراین صادرکنندگان و مسافران بزرگی هستیم، اما همچنین تولیدکنندگان بزرگی از کالاها هستیم، زیرا منابع طبیعی زیادی داریم.
Cannon-Brookes اضافه کرد که شرکت های استرالیایی نیز از "همسویی کامل" با US Atlassian سود می برند. امروزه در 49 ایالت از 50 ایالت آمریکا کارمندان دارد.
کانن بروکس با اشاره به تنها ماندن گفت: "فراموش می کنم. فکر می کنم شبیه آیداهو یا چیزی شبیه به آن است." "من باید این آمار را به روز کنم."
این داستان در ابتدا در سایت Fortune.com منتشر شد
متن اصلی (انگلیسی)
Atlassian’s Mike Cannon-Brookes: AI agents need a name tag—and a human to blame for their mistakes
Cannon-Brookes says the hardest part of putting agents to work isn’t the model but the interface and the accountability.