[Nilftrondheim]

یک نمونه‌یِ آن, خطای انسانی.

برای دریافت بهتر, دژآمد (فاجعه) نیروگاه هسته‌ای فوکوشیما که همین چندی پیش رخ داد را دانشمندان یک رویداد سیگما نامیده
بودند, یعنی احتمال رخداد آنرا یک در میلیون گرفته بودند, با این تفاوت ناچیز که بجای یک میلیون سال آنورتر, تنها ٨ سال دیرتر رخ داد.






= کورباوری.

ریشخندآمیزی کار اینجاست که اگر اندکی با این پژوهشگران آشنا بودید میدانستید که چیزهای بسیار پیش پا افتاده‌ای همچون
همینکه "اخلاقیات" آدمی را نمیتوان به ماشین بهمین آسانی ترابُرد (انتقال داد) هنوز بآسانی دریافت و پذیرفته نشده اند
و تنها بهترین و نخبه‌ترین‌ها در این زمینه, کسانی مانند Eliezer Yudkowsky تا اندازه‌یِ خوبی به
این پرداخته‌اند و خود نوشته‌هایِ ایشان, مانند ویدئویی که از Stephen Hawking آمد, همراه با دوز بالایی از نگرانی و بیم است.


نکته‌ای شایان نگرش: درست همانجور که سازندگان Deep Blue, ابررایانه‌ای که قهرمان شترنگ جهان را شکست داد خود
نیازی نبود که نه شترنگ‌باز خوبی باشند و نه چیز چندانی از چیز چندانی بدانند بجز برنامه‌نویسی, همانگونه هم بیشمار
کس میتوانند با پیشرفت و گسترش ابزارها به نوآوری و ساخت هوشواره‌ها بپردازند بی اینکه در زمینه‌هایِ دیگر آگاهی چندانی بدارند.


--
در جایگاه قانون‌هایِ احتمالات نیز بیشمار پژوهشگاه با بیشمار باورها و کژباور‌ها و نادرستی‌هایِ اندیشیوی سرگرم
پژوهش و دستیابی به این تکنولوژی میباشند و پس این اُمیدی سست و بی‌پایه است به اینکه آری, همه‌یِ آنان از بیخ
میدانند دارند چکار میکنند و برخاسته از خودفریبی. چه بسنده است نیم نگاهی به این پیشینه‌یِ آدمی در دیگر تکنولوژی‌هایِ بسیار ساده‌تر و
بسیار پیش پا افتاده‌تر, که بهمانند دانشمندان دست اندرکار میدانسته‌اند دارند چه کار میکنند و پیامد‌هایِ آنها انداخته شود. یک نمونه‌یِ آن, فوکوشیما.









و سود این دموکراتیزه شدن در گفتمان تکنولوژی چیست؟ آیا دموکراتیزه شدن میتواند برای نمونه از نوآوری ابزارهای کنترل و دستکاری مغز و اندیشه جلوگیری نماید؟







نوآوری ابزارهای کنترل مغز پرسمانی زنده و روان است و ریشخندی در خود ندارد.

یک نمونه‌یِ ساده‌یِ آنرا خود من اینجا آورده بودم

On the Feasibility of Side-Channel Attacks with Brain-Computer Interfaces

sec12-final56.pdf

Yudkowsky - The AI-Box Experiment


یودکوسکی اینجا به همان AI زندانی که اشاره کردم پرداخته است، با دو نفر ننه قمر شرط بسته سر اینکه نقش AI را بازی کند و آنها آزادش خواهند کرد. در این آزمایش بین AI و نگهبانش هرچه رد و بدل شده است را مخفی نگه داشته اند، فقط هر دو ننه قمر آخر سر آمده اند نوشته اند که من باختم! تا حالا تو عمرم اینقدر قانع نشده بودم!