[Unknown]

درود ناشناخته‌یِ گرامی,

دشواری مهادین شما همینجاست که میاندیشید یک "ما"یی آنجا هست. پرسش این است, کدام ما؟ آیا شما تک تکِ ٧
میلیارد و خرده‌ای آدم زنده را میشناسید و میدانید هر کدام هماکنون دارند روی پیشرفت چه چیزی کار میکنند که میگویید ما؟

سپس اینکه میگویید ١٠ سال پیش از رسیدن به تکینگی تکنوفایل‌ها (technophiles) ناگهان به خطرهای آن آگاه میشوند, چند پرسش اینجا به میان میایند:

١. چگونه خواهیم دانست که ١٠ سال دیگر بهمان تکنولوژی نوآورده میشود؟ آیا ١٠ سال پیش از ساخت بمبِ اتم, کسی میدانست ١٠ سال دیگر بمب اتم ساخته خواهد شد؟ (یا ١٠ سال پیش از رویداد جنگ جهانی یکم کسی میدانست جنگ جهانی یکم رویمیدهد؟ درباره‌یِ جنگ جهانی دوم چه؟)

٢. چگونه پس از آگاهی از خطرهای یک تکنولوژی, آن را کنترل میکنند؟ بگوییم تکنوفایلها ١٠ سال پیش از تکینگی دریافتند که نمیتوانند تکینگی را کنترل کنند و چیز خوبی نیست, اکنون چه میکنند, چگونه از پیشرفت بیشتر در راستای رسیدن به آن پیش میگیرند؟ (با هم پیمان میبندند که بیایید در این یک زمینه پیشرفت نکنیم!؟)

٣. ما درباره‌یِ تکنولوژیِ پیش پا افتاده‌ای همچون بمب اتم میبینیم که تنها پس از آزمایش چندباره اش بود که توانستند به ژرفای آسیب‌های پنهان و ناپنهان اش پی ببرند, چگونه درباره‌یِ تکنولوژی همچون تکینگی که آزمودنی هم نیست — یکبار بیشتر نمیتوانید به تکینگی برسید — میخواهند از آسیب‌هایِ شناخته و مهندتر, ناشناخته‌ اش پی ببرند؟

٤. اگر کسانیکه نخست به تکینگی دست یافتند باهوش بوده و کله شق نبودند هم به کاری نمیاید, زیرا اگر این تکنوفایل‌هایِ باهوش بیش از اندازه منتظر بمانند کم کم کله شق‌ها هم به ساخت آن توانا میشوند (همانجور که امروز کره‌یِ شمالی شده و ایرانِ کله شق هم دارد به بمب اتم مجهز میشود): تکنولوژی در دست من یا شما یا شماری برگزیده ابرباهوشِ همه چیزدان نیست, دیر یا زود فراگیر میشود.

روند پیشرفت هوش مصنوعی تا حدود زیادی قابل برونیابی است، همانطور که تاکنون بوده، و زمانی هم که کامپیوترها به توانایی های انسان نزدیک شوند، و اولین کامپیوتر بتواند از آزمون تورینگ موفق بیرون آید، فاصله چندانی با تکینگی نخواهیم داشت. قضیه تکینگی هم با بمب اتم متفاوت است، از این جهت که مسئله کنترل هوش برتر، یک مسئله تئوریست، که بیشتر به رشته هایی مانند تئوری بازیها مربوط می شود.

اینکه کله شق ها هم به تکینگی دست پیدا کنند و منجر به نابودی حیات شوند، محتمل است، اما چقدر میتوان مطمئن بود؟ به گمان من حتی نمی توان با اطمینان بالایی گفت که انسان حتما روزی به تکینگی دست خواهد یافت، چنانچه در پست بعد دلایلم را خواهم آورد.