ما روز به روز بهره گیری از هوش مصنوعی را در تمام شئون زندگی خود افزایش می‌دهیم، اما دانشمندان می‌گویند ما سرانجام کنترل خود را بر آن از دست خواهیم داد.
فرارو- این ایده که هوش مصنوعی روزی تمدن بشر را نابود می‌کند، سال‌ها و بلکه دهه هاست که در ذهن بسیاری متفکران قرار دارد و حتی تعداد زیادی فیلم با این مضمون ساخته شده است. اینکه آیا چنین چیزی واقعاً رخ خواهد داد یا خیر، ذهن بسیاری از دانشمندان را به خود جلب کرده است و یک بررسی جدید می‌گوید که ما بالاخره کنترل خود را بر این هوش مصنوعی از دست خواهیم داد.
به گزارش فرارو به نقل از rahnamato، این دانشمندان می‌گویند کنترل یک ابر هوش بسیار فراتر از درک انسان نیازمند شبیه سازی آن است تا ما بتوانیم آن را تحلیل (و کنترل) کنیم. اما اگر ما قادر به درک آن نباشیم، ایجاد چنین شبیه سازی غیرممکن است.
به عبارت دیگر، اگر ما نوع سناریو‌هایی را که یک هوش مصنوعی قرار است ایجاد کند، درک نکنیم، نمی‌توان قوانینی مانند «به انسان آسیبی وارد نکن» تنظیم کرد. پس وقتی که یک سیستم کامپیوتری در سطحی بالاتر از محدوده برنامه نویسان کار کند، دیگر نمی‌توانیم محدودیت‌هایی را برایش تعیین کرد.
یک ابر هوش با چنین مشخصاتی می‌تواند دست به اقداماتی بزند که برای ما انسان‌ها مشکل ساز خواهند بود. این به این دلیل است که یک ابرهوش چند وجهی است، و بنابراین به طور بالقوه قادر به بسیج منابع مختلف برای دستیابی به اهدافی است که به طور بالقوه برای انسان غیرقابل درک است، چه رسد به قابل کنترل.
بخشی از استدلال‌های این دانشمندان برگرفته از فرضیه «مشکل توقف» است توسط آلن تورینگ در سال ۱۹۳۶ مطرح شد. این تئوری توضیح بر این پایه استوار است که وقتی مشکلی بر سر راه یک برنامه کامپیوتری قرار می‌گیرد و نتواند پاسخی برای آن بیابد، آیا متوقف می‌شود یا برای کسب نتیجه به تلاش‌های خود ادامه می‌دهد.
همانطور که تورینگ از طریق برخی ریاضیات هوشمند ثابت کرد، هوش مصنوعی می‌تواند هر برنامه رایانه‌ای ممکن را برای پاسخ به مشکلات در حافظه خود نگه دارد؛ بنابراین هر برنامه‌ای از جمله برنامه‌هایی که برای جلوگیری از آسیب رساندن هوش مصنوعی به انسان‌ها و نابود کردن جهان نوشته شده باشد، از نظر ریاضی غیرممکن است که بتوان آن را کنترل کرد و مطمئن بود که برای همیشه تحت کنترل بماند. ایاد رهوان، دانشمند کامپیوتر از موسسه توسعه انسانی ماکس پلانک در آلمان در سال ۲۰۲۱، گفت: «در واقع، این باعث می‌شود که الگوریتم مهار غیرقابل استفاده باشد.»
اکنون این ایده مطرح شده است که اگر قرار نیست از هوش مصنوعی برای حل مشکلات فراتر از محدوده ذهن انسان استفاده کنیم، پس چرا اصلاً آن را ایجاد کنیم؟ این بدان معنی است که ما باید شروع به پرسیدن برخی از سؤالات جدی در مورد مسیر‌هایی که در آن قرار داریم کنیم.
مانوئل سبریان، دانشمند کامپیوتر از موسسه توسعه انسانی ماکس پلانک، همچنین در سال ۲۰۲۱، گفت: «ماشین فوق هوشمندی که جهان را کنترل می‌کند، به نظر می‌رسد فقط مربوط به دنیای علمی تخیلی باشد.»
