هشدار پژوهشگران درمورد کشف مهم هوش مصنوعی

زی‌سان: بر پایه گزارش‌ها، پژوهشگران اوپن ای‌آی پیش از برکناری سم آلتمن، مدیرعامل این شرکت، در مورد کشف هوش مصنوعی احتمالا خطرناک هشدار دادند.

دو نفر از افراد آگاه از این موضوع به رویترز گفتند که چندین نفر از کارکنان این شرکت هوش مصنوعی طی نامه‌ای به هیئت‌مدیره، جزئیات این الگوریتم را شرح دادند. گویا این افشاگری دلیل مهمی بود که زمینه‌ساز اخراج آلتمن شد.

پیش از بازگشت او در اواخر روز سه‌شنبه، بیش از ۷۰۰ کارمند تهدید کرده بودند که برای همبستگی با رئیس اخراجی‌شان از کار کناره‌گیری می‌کنند و به حامی او، مایکروسافت، می‌پیوندند.

منابع، این نامه را به‌منزله یکی از عوامل فهرست طولانی شکایت‌های هیئت‌مدیره از جمله نگرانی‌هایی در مورد تجاری‌سازی پیشرفت‌ها پیش از درک عواقب آن که به اخراج آلتمن منجر شد، ذکر کردند.

کارمندان نویسنده این نامه به درخواست اظهارنظر پاسخ ندادند و رویترز نتوانست نسخه‌ای از آن را بررسی کند.

یکی از کارکنان گفت، اوپن ای‌آی از اظهارنظر درباره این نامه خودداری کرد، اما در پیامی داخلی برای کارکنان [وجود]طرحی به نام کیو استار (Q*) و نامه برای هیئت مدیره را پیش از [بروز]رویداد‌های آخرهفته اخیر تایید کرد.

یکی از سخنگویان اوپن ای‌آی گفت این پیام که میرا موراتی، مدیر اجرایی باسابقه ارسال کرد، در مورد برخی روایت‌های رسانه‌ای که بدون توضیحی درمورد درستی آن‌ها [منتشر می‌شوند]، به کارکنان هشدار می‌دهد.

یکی از این افراد به رویترز گفت بعضی‌ها در اوپن ای‌آی معتقدند که کیو استار می‌تواند پیشرفتی در تلاش این شرکت نوپا برای چیزی باشد که هوش مصنوعی عمومی (ای‌جی‌آی) شناخته می‌شود.

اوپن ای‌آی ای‌جی‌آی را سیستم خودکاری تعریف می‌کند که در اغلب کار‌هایی با ارزش اقتصادی بالا از انسان پیشی می‌گیرد.

این فرد که اجازه نداشت از طرف این شرکت صحبت کند و به همین دلیل نخواست نامش فاش شود، گفت با توجه به منابع گسترده محاسباتی، این مدل جدید قادر است مسائل خاص ریاضی را حل کند.

این منبع گفت هرچند حل مسائل ریاضی در سطح دانش‌آموز مقطع ابتدایی بود، چنین آزمون‌هایی پژوهشگران را به موفقیت آتی کیو استار بسیار خوش‌بین کرد. رویترز نتوانست توانمندی‌های کیو استار را که پژوهشگران ادعا کرده‌اند، به‌طور مستقل تایید کند. 

پژوهشگران ریاضیات را مرز توسعه هوش مصنوعی مولد می‌دانند. اکنون، هوش مصنوعی با پیش‌بینی آماری کلمه بعدی، در نوشتن و ترجمه زبان ماهر است و پاسخ‌های آن به یک سوال می‌تواند بسیار متفاوت باشد. اما تسلط بر توانایی حل مسائل ریاضی که برای آن فقط یک پاسخ درست وجود دارد، به این معنی است که هوش مصنوعی ظرفیت‌های استدلالی بیشتری مشابه هوش انسانی خواهد داشت. مثلا پژوهشگران هوش مصنوعی معتقدند که این [قابلیت]را می‌توان در پژوهش‌های علمی جدید اعمال کرد.

ای‌جی‌آی برخلاف ماشین حساب که تعدادی عملیات [ریاضی]محدود حل می‌کند، قادر است تعمیم بدهد، یاد بگیرد و درک کند. این منابع بدون اشاره به نگرانی امنیتی خاص ذکرشده در این نامه گفتند که پژوهشگران در نامه‌شان به هیئت‌مدیره درباره مهارت و خطر احتمالی هوش مصنوعی هشدار دادند. مدت‌ها است که درباره این خطر ماشین‌های بسیار هوشمند مثل اینکه اگر تصمیم بگیرند نابودی بشر به نفع آن‌ها است، بین دانشمندان رایانه بحث‌هایی درگرفته است.

پژوهشگران بر کار یک گروه «دانشمند هوش مصنوعی» تاکید کردند که منابع متعددی وجود آن را تایید کرده‌اند. یکی از این افراد گفت که گروه فوق که از ترکیب گروه‌های پیشین «کد جین» (Code Gen) و «مت جین» (Math Gen) تشکیل شده است و چگونگی بهینه‌سازی مدل‌های هوش مصنوعی موجود را برای بهبود استدلال و در نهایت انجام دادن کار‌های علمی بررسی می‌کند.

آلتمن تلاش کرد چت جی‌پی‌تی به یکی از سریع‌ترین برنامه‌های نرم‌افزاری در حال رشد تاریخ تبدیل شود و برای نزدیک‌تر شدن به ای‌جی‌آی‌ــ منابع ضروری محاسباتی‌ــ و سرمایه‌گذاری را از مایکروسافت جلب کرد.

آلتمن افزون بر اعلام تعداد زیادی ابزار جدید در نمایشگاهی که این ماه برگزار شد، هفته گذشته در نشست سران جهان در سانفرانسیسکو اعلام کرد که باور دارد پیشرفت‌های بزرگی در پیش است.

او در نشست همکاری اقتصادی آسیا و اقیانوسیه، یک روز پیش از آنکه هیئت مدیره اوپن ای‌آی او را برکنار کند، گفت: «اکنون برای چهارمین بار در تاریخ اوپن ای‌آی که آخرین بار آن درست یکی دو هفته گذشته رخ داد، توانستم در اتاقی باشم که در آن به نوعی پرده جهل را کنار زدیم و مرز کشف را به پیش راندیم و انجام دادن این کار افتخار حرفه‌ای تمام عمر است.»