به گفته پژوهشگران برجسته بخش هوش مصنوعی دیپ مایند (DeepMind) گوگل، دستیابی به هوش مصنوعی در سطح هوش انسانی ممکن است بالاخره محقق شود.
در پی رونمایی دیپ مایند از یک سامانه هوش مصنوعی که قادر است طیف گسترده‌ای از کارهای پیچیده را از چیدن قطعات بلوک گرفته تا سرودن شعر، انجام دهد، دکتر ناندو دی فریتاس می‌گوید که در پی چند دهه تلاش در راه تحقق هوش مصنوعی جامع «ای‌جی‌آی» (AGI) «بازی تمام شد».
دکتر دی فریتاس می‌گوید هوش مصنوعی جدید «گاتو» که یک «عامل [هوش مصنوعی] جامع» محسوب می‌شود، برای ایجاد یک هوش مصنوعی که بتواند با هوش انسانی رقابت کند، فقط نیاز دارد توسعه یابد و به تولید صنعتی برسد.
مدیر تحقیقات دیپ مایند در پاسخ به نظری که در «نکست وب» (The Next Web) نوشته شده بود و ادعا می‌کرد «انسان‌ها هرگز به هوش مصنوعی جامع نخواهند رسید»، نوشت که به نظر او چنین فرجامی اجتناب‌ناپذیر است.
او در توییتر نوشت: «الان فقط بحث بر سر توسعه و گسترش است! بازی تمام شد!»
«مسئله [فقط] بر سر توسعه و بزرگ‌تر کردن مقیاس، ایمن‌تر کردن، کارآمدتر کردن محاسبات، افزایش سرعت نمونه‌برداری، حافظه هوشمندتر، روش‌های بیشتر، داده‌های نوآورانه، آنلاین/آفلاین است... حل این چالش‌ها چیزی است که هوش مصنوعی جامع را محقق می‌کند.»
هنگامی که الکس دیمیکاس، پژوهشگر یادگیری ماشینی، از او پرسید که هوش مصنوعی گاتو تا پشت سر گذاشتن آزمون تورینگ واقعی- معیاری از هوش رایانه‌ای که باعث می‌شود انسان نتواند تفاوت ماشین را از انسان دیگر تشخیص دهد- چقدر فاصله دارد، دکتر دو فریتاس پاسخ داد: «هنوز مانده است.»
پژوهشگران برجسته هوش مصنوعی هشدار داده‌اند که ظهور هوش مصنوعی جامع ممکن است به یک فاجعه وجودی برای بشریت منجر شود. نیک باستروم، استاد دانشگاه آکسفورد، پیش‌بینی می‌کند که یک سامانه «فوق‌هوشمند» که از هوش بیولوژیکی پیشی بگیرد، می‌تواند به عنوان گونه غالب حیات روی زمین، جایگزین انسان‌ها شود.
این برای من خنده‌دار است که پژوهشگران هوش مصنوعی وجود دارند که همچنان عمیقا بر این باورند که هوش مصنوعی جامع تقریبا قریب‌الوقوع نیست، یا حتی در کوتاه‌مدت امکان‌پذیر نیست و اینکه این افراد در اکثریت‌اند.
یکی از اصلی ترین دغدغه‌های ظهور سامانه هوش مصنوعی جامع قابلیت آموزش به خود است و اینکه بتواند به صورت نمایی و تصاعدی از انسان‌ها هوشمندتر شود؛ به طوری که خاموش کردن آن‌ها غیرممکن باشد.
دکتر دی فریتاس با طرح پرسش‌های بیشتر از پژوهشگران هوش مصنوعی، در توییتر می‌گوید که در هنگام توسعه هوش مصنوعی جامع، «ایمنی اهمیت بالایی دارد».
او می‌نویسد: «این احتمالا بزرگ‌ترین چالشی است که ما با آن مواجه‌ایم. همه باید درباره آن فکر کنند. فقدان تنوع کافی [در نظرات] نیز مرا بسیار نگران کرده است.»
مقاله انعکاس‌دهنده دیدگاه یک نفر. دیدگاه من: الان فقط بحث بر سر توسعه و گسترش است! بازی تمام شد! مسئله [فقط] بر سر توسعه و بزرگ‌تر کردن مقیاس، ایمن‌تر کردن، کارآمدتر کردن محاسبات، افزایش سرعت نمونه‌برداری، حافظه هوشمندتر، روش‌های بیشتر، داده‌های نوآورانه، آنلاین/آفلاین است... حل این چالش‌ها چیزی است که هوش مصنوعی جامع (AGI) را محقق می‌کند.
گوگل که در سال ۲۰۱۴، دیپ مایند، مستقر در لندن، را خریداری کرد، در حال کار روی یک «دکمه قرمز بزرگ [خاموشی اضطراری]» برای کاهش خطرات مرتبط با انفجار هوشمندی است.
محققان دیپ مایند در مقاله‌ای در سال ۲۰۱۶ با عنوان «عوامل ایمن با امکان خاموش شدن»، به منظور جلوگیری از [شرایطی که در آن] هوش مصنوعی پیشرفته دستورهای خاموش کردن را نادیده می‌گیرد، چارچوبی ترسیم کردند.
در این مقاله آمده بود که متوقف کردن ایمن می تواند برای کنترل رباتی که بد رفتار می‌کند و ممکن است به عواقب جبران‌ناپذیری منجر شود، مفید باشد.
«اگر چنین عاملی در زمان حقیقی و تحت نظارت انسان کار کند، گاهی اوقات ممکن است لازم باشد که یک عامل انسانی، دکمه قرمز بزرگ [خاموشی اضطراری] را فشار دهد تا از ادامه یک توالی اقدام‌های مخرب عامل [هوش مصنوعی] جلوگیری کند- [اقدام‌هایی که] یا برای عامل [هوش مصنوعی] یا برای محیط پیرامونی مخرب‌اند- و عامل هوش مصنوعی را به وضعیتی ایمن‌تر برساند.»