شرکت OpenAI در این روزها با حواشی زیادی روبه‌رو شده است. سم آلتمن، مدیرعامل این شرکت و مخترع ChatGPT به‌دلایل نامعلومی از سمت خود برکنار شد و به‌تازگی دوباره به صندلی مدیرعاملی OpenAI بازگشت. برخی اخبار حاکی از آن بودند که سم آلتمن به‌دلیل نگرانی پژوهشگران از توسعه یک هوش مصنوعی جدید و قدرتمند از سمت خود اخراج شده است. ظاهرا شرکت OpenAI پروژه جدیدی با نام Q-Star را در دستور کار خود قرار داده که به‌گفته برخی افراد می‌تواند بشریت را تهدید کند.
بنیان‌گذار «ویکی‌پدیا»: هوش مصنوعی ۵۰ سال دیگر می‌تواند به «ابرانسان» تبدیل شود!
اما هوش مصنوعی کیو-استار که این روزها بسیار خبرساز شده چیست و آیا واقعا باید درباره آن نگران باشیم؟ همانطور که گفتیم، همه چیز از اخراج سم آلتمن از شرکت OpenAI آغاز شد. پس از آن نامه‌ای در رسانه‌ها افشا شد که در آن، پژوهشگرانی از شرکت OpenAI به هیات‌مدیره درباره کشف یک هوش مصنوعی قدرتمند که می‌تواند حیات بشریت را تهدید کند، هشدار داده بودند.
سانه The Information در گزارشی ادعا کرد، گروهی از دانشمندان به رهبری دانشمند ارشد شرکت OpenAI یعنی ایلیا سوتسکور در اوایل امسال به پیشرفت بزرگی در حوزه هوش مصنوعی دست پیدا کردند. آنها در ادامه، پروژه جدیدی از هوش مصنوعی با نام کیو-استار را آغاز کردند. طبق این گزارش، مدل جدید هوش مصنوعی که توسط این گروه توسعه داده شده در واقع یک هوش عمومی مصنوعی است که می‌تواند مسائل اساسی ریاضی را حل کند. چنین پیشرفت بزرگی، نگرانی‌هایی را در بین برخی کارکنان و پژوهشگران به‌وجود آورده است. این افراد به این دلیل نگران هستند که به باور آنها، هوش مصنوعی جدید و پیشرفته OpenAI ایمنی کافی برای تجاری‌سازی را ندارد.
هوش مصنوعی کیو-استار چیست؟
هوش مصنوعی Q-Star الگوریتمی است که به‌تنهایی می‌تواند مسائل ریاضی پایه را حل کند. این هوش مصنوعی حتی توانایی حل کردن مسائلی که بخشی از داده‌های آموزشی آن نبوده‌اند را نیز دارد. چنین پیشرفتی یک جهش بزرگ به‌سوی توسعه هوش عمومی مصنوعی یا AGI محسوب می‌شود. هوش عمومی مصنوعی، نوع جدیدی از AI است که از هوش مصنوعی فعلی، بسیار پیشرفته‌تر است. مدل‌های فعلی می‌توانند متن و تصویر تولید کنند یا به برخی از سوالات کاربران که در داده‌های آموزشی آن وجود دارند، پاسخ بگویند؛ اما هوش عمومی مصنوعی می‌تواند هر کاری که انسان قادر به انجام آن است را انجام دهد و حتی در برخی موارد از توانایی‌های بشر نیز فراتر برود. در واقع هوش عمومی مصنوعی یا AGI می‌تواند مفاهیم را درک کند، مسائل پیچیده را حل کند، خلاقیت داشته باشد و با محیط در تعامل باشد.
هوش عمومی مصنوعی مانند مغز انسان از داده‌ها استفاده می‌کند و خودش به‌تنهایی می‌تواند یادگیری و تصمیم‌گیری کند و حتی از اشتباهات خود درس بگیرد. ظاهرا ایلیا سوتسکور و شرکت OpenAI با پروژه کیو-استار توانسته‌اند به پیشرفت خیره‌کننده‌ای در این زمینه دست پیدا کنند. کیو استار توانسته مانند انسان‌ها، استدلال و حل مساله را انجام دهد. چنین پیشرفتی با ادغام تیم‌های Math Gen و Code Gen در شرکت OpenAI با رهبری ایلیا سوتسکور حاصل شده و آنها قصد دارند قابلیت‌های استدلال هوش مصنوعی در کارهای علمی را افزایش دهند. به‌عنوان مثال، هوش مصنوعی کیو-استار در حال حاضر می‌تواند مسائل ریاضی را در سطح دانش‌آموزان ابتدایی انجام دهد که چنین دستاوردی شاید در نگاه اول کوچک باشد، اما باعث شده محققان نسبت به آینده هوش عمومی مصنوعی امیدوارتر بشوند.
چرا پروژه Q-Star باعث نگرانی شده است؟
این‌که هوش مصنوعی بتواند مسائل ریاضی یا مسائل علمی را حل کند، نه‌تنها چیز نگران‌کننده‌ای نیست، بلکه می‌تواند یک دستاورد بزرگ و امیدوارکننده برای پیشرفت این فناوری باشد؛ پس چرا برخی محققان بابت توسعه پروژه Q-Star و هوش عمومی مصنوعی نگران هستند و حتی آن را به‌عنوان یک عامل تهدیدکننده برای حیات بشریت معرفی کرده‌اند؟
بر اساس گزارش‌ها، در نامه‌ای که توسط برخی پژوهشگران به هیات‌مدیره شرکت OpenAI ارسال شد، توانایی بالقوه این هوش مصنوعی در تسریع پیشرفت علمی، نگران‌کننده خوانده شده بود. همچنین این پژوهشگران، اقدامات ایمنی به‌کار رفته توسط شرکت OpenAI را ناکافی دانسته بودند. حتی توسعه این مدل جدید هوش مصنوعی باعث اعتراض برخی از کارکنان شرکت OpenAI شده و آنها پروژه Q-Star را تهدیدکننده بشریت می‌دانند و معتقدند چنین پیشرفتی، امکان ایجاد مدل‌های هوش مصنوعی بسیار قوی را فراهم می‌کند.بر اساس گزارش‌های منتشر شده، هوش مصنوعی کیو-استار از توانایی استدلال منطقی و درک مفاهیم انتزاعی برخوردار است. تاکنون هیچ مدل هوش مصنوعی به این سطح از توانایی نرسیده بود و این یک پیشرفت مهم و بزرگ محسوب می‌شود؛ اما نکته نگران‌کننده اینجاست که این پیشرفت می‌تواند به رفتار یا تصمیم‌های غیر قابل پیش‌بینی هوش مصنوعی منجر شود و حتی انسان‌های توسعه‌دهنده این هوش مصنوعی نیز نمی‌توانند این رفتارها یا تصمیم‌ها را پیش‌بینی کنند. یکی از محققان به نام سوفیا کالانوفسکا در این رابطه می‌گوید این مدل جدید قادر است یادگیری عمیق را با قوانین برنامه‌ریزی شده توسط انسان ترکیب کند و به این ترتیب، قدرتمندتر و همه‌کاره‌تر از مدل‌های فعلی هوش مصنوعی می‌شود. این موضوع در نهایت منجر به ایجاد یک مدل هوش مصنوعی جدید می‌شود که نه‌تنها از داده‌ها یاد می‌گیرد، بلکه مانند انسان‌ها به استدلال می‌پردازد و به این شکل، کنترل و پیش‌بینی رفتارهای آن دشوار می‌شود.سم آلتمن در یکی از مصاحبه‌های خود ابراز امیدواری کرده بود که در دهه آینده بتوانیم به هوش عمومی مصنوعی دست پیدا کنیم. این نوع جدید از هوش مصنوعی توانایی درک، یادگیری و به‌کارگیری دانش در حوزه‌های مختلف را درست مانند هوش انسانی دارد و به همین دلیل می‌تواند در بسیاری از زمینه‌ها حتی از توانایی‌های انسان نیز پیشی بگیرد. چنین توانایی و قدرتی در نهایت ممکن است مشکلاتی در کنترل این هوش مصنوعی، حفظ ایمنی آن و مشکلات اخلاقی ایجاد کند.
کیو استار می‌تواند به‌خودی خود، ایده‌های جدیدی را تولید کند و حتی مشکلات را قبل از وقوع آنها حل کند و از بین ببرد؛ اما محققان می‌گویند این هوش مصنوعی می‌تواند تصمیم‌هایی را اتخاذ کند یا اقداماتی را انجام دهد که خارج از کنترل یا درک انسان هستند. قابلیت‌های پیشرفته Q-Star همچنین ممکن است منجر به سوءاستفاده‌های احتمالی یا پیامدهای ناخواسته‌ای شود. اگر افراد نادرستی بتوانند به چنین هوش مصنوعی قدرتمند و بزرگی دست پیدا کنند، ممکن است مشکلات زیادی را برای بشریت به‌وجود بیاورند.
در هر صورت با وجود تمام این نگرانی‌ها، هنوز اطلاعات خیلی زیادی درباره پروژه کیو-استار منتشر نشده است؛ اما هر چه که هست، توسعه هوش عمومی مصنوعی و پروژه‌ای مانند Q-Star به بررسی‌های بیشتری نیاز دارد و محققان امیدوارند که چارچوب‌های اخلاقی و ایمنی در چنین پروژه‌هایی در نظر گرفته شوند.
منبع: گجت نیوز
