[Mehrbod]

به نظر می رسد که انسان دارد به مرز ظرفیت مغزی خود نزدیک می شود. اکنون در ریاضیات مسائلی را داریم، که چند دهه (یا بعضا قرن) از مطرح شدنشان می گذرد، هزاران تن از برجسته ترین ریاضیدانان روی آن کار کرده اند، اما هنوز حل نشده اند. در فیزیک نیز دهه هاست که جهش بزرگی رخ نداده، و مسائلی کماکان لاینحل باقی مانده اند. در هر رشته ای، در نهایت عامل متوقف کننده، پیچیدگی خواهد بود. بنابراین، به نظر می رسد که بدون بکارگیری هوش برتر (هوش مصنوعی، یا مهندسی ژنتیک) پیشرفت دانش به تدریج کند و در نهایت متوقف خواهد شد.

حال پرسش اینجاست که از کجا معلوم این نقطه توقف، قبل از دستیابی به هوش برتر نباشد؟

روند پیشرفت هوش مصنوعی تا حدود زیادی قابل برونیابی است، همانطور که تاکنون بوده، و زمانی هم که کامپیوترها به توانایی های انسان نزدیک شوند، و اولین کامپیوتر بتواند از آزمون تورینگ موفق بیرون آید، فاصله چندانی با تکینگی نخواهیم داشت. قضیه تکینگی هم با بمب اتم متفاوت است، از این جهت که مسئله کنترل هوش برتر، یک مسئله تئوریست، که بیشتر به رشته هایی مانند تئوری بازیها مربوط می شود.

اینکه کله شق ها هم به تکینگی دست پیدا کنند و منجر به نابودی حیات شوند، محتمل است، اما چقدر میتوان مطمئن بود؟ به گمان من حتی نمی توان با اطمینان بالایی گفت که انسان حتما روزی به تکینگی دست خواهد یافت، چنانچه در پست بعد دلایلم را خواهم آورد.

در این جستار هم چیزی بجز این نگفتیم, که با روند کنونی دیر یا زود به تکینگی[sup][aname=rpafe63][[/aname][anchor=pafe63]1][/anchor][/sup] میتوانیم برسیم.

دشواری اینجاست که گفتیم نمیتوانیم آن را کنترل کنیم, نمیدانیم چه کسانی نخستی به آن دست میابند و میدانیم که
با کوچکترین لغزش — که نشان دادیم پیشگیری ناپذیر است — نژاد بشر نابود, برده یا هر سرنوشت ناخواستنیِ شایند[sup][aname=rpa0763][[/aname][anchor=pa0763]2][/anchor][/sup] دیگری خواهد شد.

اینکه پیشرفت دارد کُند میشود پس بیایید هوشواره[sup][aname=rpa46b6][[/aname][anchor=pa46b6]3][/anchor][/sup] بسازیم و به تکینگی برسیم هم درست است, ولی سودی برای ما ندارد. پیشرفت برای
خودِ پیشرفت که خوب نیست, پیشرفت برای این خوبه که مایه‌یِ آسایش و بهزیستی[sup][aname=rpa1642][[/aname][anchor=pa1642]4][/anchor][/sup] ما آدمهای زنده شود, اگر این پیشرفت بخواهد همچون
تکینگی مایه‌یِ ساخت ابرهوشواره‌هایِ[sup][aname=rpa70c8][[/aname][anchor=pa70c8]5][/anchor][/sup] باهوشتر از خود امان شود که دیرتر جای ما را گرفته و نابود شویم دیگر به درد نمیخورد و باید با آن ستیزید.

اینکه شما تاکنون از تکنولوژی چیزی جز خوبی نداده‌اید مایه‌یِ اینکه تا همیشه چیزی خوب برای شما بماند نیست, نسیم طالب این را «پرسمان[sup][aname=rpab147][[/aname][anchor=pab147]6][/anchor][/sup] بوقلمون» مینامد:

— یک بوقلمون با نگرش به گذشته (آمار, etc.) میبینید که هر روز برای او خوراک میاورند و در ناز و نعمت‌ و آسودگی زندگی میکند و هر روزی که میگذرد به نیکسرشی این
آدمهای مهربان که از وی نگهداری میکنند بیشتر و بیشتر باورمند میشود, مگر تا روزیکه شب سالِ نو فرارسیده و همین آدمهای مهربان او را گرفته و برشته (بریان کرده) و نوش[sup][aname=rpa499a][[/aname][anchor=pa499a]7][/anchor][/sup] جان میکنند!





----
[aname=pafe63]1[/aname]. [anchor=rpafe63]^[/anchor] tak+in+eg+i::Takinegi || تکینگی: نقطه‌یِ تکین Ϣiki-En, Ϣiki-Pâ singularity
[aname=pa0763]2[/aname]. [anchor=rpa0763]^[/anchor] šây+and::Šâyand || شایند: ممکن Ϣiki-En possible
[aname=pa46b6]3[/aname]. [anchor=rpa46b6]^[/anchor] huš+vâr+e::Hušvâre || هوشواره: هوش مصنوعی Ϣiki-En artificial intelligence Künstliche Intelligenz
[aname=pa1642]4[/aname]. [anchor=rpa1642]^[/anchor] beh+zist+i::Behzisti || بهزیستی: رفاه Ϣiki-En, Ϣiki-Pâ welfare
[aname=pa70c8]5[/aname]. [anchor=rpa70c8]^[/anchor] abar+huš+vâre::Abarhušvâre || ابرهوشواره: super intelligence
[aname=pab147]6[/aname]. [anchor=rpab147]^[/anchor] pors+mân::Porsmân || پرسمان: مساله Dehxodâ, Ϣiki-En problem
[aname=pa499a]7[/aname]. [anchor=rpa499a]^[/anchor] Navidan || نویدن: وعده دادن Ϣiki-En, Ϣiki-En to give good news; to promise; to augur; to fortell