من به سختی باور دارم که تحقیق و توسعه هوش مصنوعی مبتکرانه است
آدرس مقاله: https://www.lesswrong.com/posts/DALNiKBjMGMF8grme/arjun-panickssery-s-shortform?commentId=fJtaHHHfx45tD7BSL آدرس نظرات: https://news.ycombinator.com/item?id=50388513 Comments #0: 12 Comments
من تلاش می کنم در سطح شهودی باور کنم که تحقیق و توسعه مستقل بسیار مبتکرانه است. من چند پروژه جانبی را زیر نظر داشتم:
در همه این موارد، قضاوت مدل از نظر اساسی بسیار ضعیف است. به عنوان مثال:
من آخر هفته گذشته یک هکاتون Apart را قضاوت کردم و هشت مقاله را بررسی کردم که همه آنها در پانگرام بین 60 تا 95 درصد امتیاز گرفتند. به طور قابل پیش بینی، مقالات اغلب بسیار شبیه یکدیگر بودند، و به نوعی از نظر روش شناختی به روشی مبهم اما مشابه ناقص بودند، جایی که به نظر می رسد ساده ترین تحلیل ها را نادیده می گیرند.
شاید استثنای مهم، برخی از وظایف تپه نوردی با حلقه های بازخورد سریع باشد. به عنوان مثال، من SOTA را در مورد "فهرست کردن تمام حرکات Scrabble قانونی" 10 برابر بهبود بخشیدم، فقط با تحریک بارها و بارها از Astra برای تلاش بیشتر، هدف گذاری برای <سطح عملکرد خاص>، "به طور سیستماتیک هر روشی در ادبیات که به نظر می رسد مرتبط است" و غیره را امتحان کند.
اما حتی در آن مورد، دو جهش بزرگ زمانی بود که گفتم باید این واقعیت را در نظر گرفت که شما میتوانید در یک بازی به جای هر موقعیت تصادفی اندازهگیری کنید، و پیشنهاد کردم که سعی کنید الگوریتمهایی را برای سه حالت مختلف بر اساس تعداد کاشیهای خالی باقی مانده در کیسه طراحی کنید (که باعث میشود تعداد حرکتها منفجر شود).
همچنین این واقعیت وجود دارد که Astra حداقل (و احتمالا کلود) تمایل دارد گزارش هایی بنویسد که درک آنها بسیار دشوار است و اغلب به نوعی بازجویی پرسش و پاسخ نیاز است تا بفهمیم واقعا چه کاری انجام داده است و نتایج کلیدی چیست. شاید این وسوسه وجود داشته باشد که فقط بگویید "هر چه" و اجازه دهید پاره شود.
هنوز فعال است - آرشیو مخزن به تحقیق پایان نداد. تمایز کلیدی خود بازی در مقابل همکاری با شرکای ناآشنا است.
بنابراین حنابی برای مطالعه هماهنگی مفید است، نه صرفا به حداکثر رساندن نمرات با کپیهایی از خود.
متن اصلی (انگلیسی)
I struggle to believe that AI R&D is ingenious
Article URL: https://www.lesswrong.com/posts/DALNiKBjMGMF8grme/arjun-panickssery-s-shortform?commentId=fJtaHHHfx45tD7BSL Comments URL: https://news.ycombinator.com/item?id=50388513 Points: 211 # Comments: 209