پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

نامنویسی انجمن درست شده و اکنون دوباره کار میکند! 🥳 کاربرانی که پیشتر نامنویسی کرده بودند نیز دسترسی‌اشان باز شده است 🌺

موضوع بسته شده

رتبه موضوع:

2 رای - 5 میانگین
1
2
3
4
5

حالت موضوعی

پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

Nilftrondheim
قدیمی

ارسال‌ها: 167
موضوع‌ها: 3
سپاسهای گرفته:
سپتسهای داده: 0
تاریخ عضویت: May 2015
اعتبار: 1

فاز :

#295

02-11-2016, 04:02 PM

Mehrbod نوشته: یک ابرهوشواره که هوشی بگوییم یک میلیون برابر بیشتر از همه‌یِ آدمها روی
هم دارد از پایه کنترل‌ناپذیر است و میتواند بآسانی برنامه‌یِ خودش را از نو بازنویسی نماید.

اگر امروزه رایانه‌ها همان کاری را میکنند که به آنها گفته میشود تنها و تنها ازینرو ست که هوش بسیار پایین و پس کنترل‌پذیری دارند.

تکلیف را روشن کنید، به کدام دلیل AI (و شاید nanotech) خطرناک میباشند؟ دو حالت زیر جمع پذیر نیستند!

- میتوان آن ها را کنترل کرد و جهت داد. در این صورت به همان بحث benevolence برمیگردیم که باید اولین یا اولین ها "خوب ها" باشند تا پس از آن مشکلی پیش نیاید. فکر کنید پروژه منهتن را اول بار نازی ها یا شوروی اجرا میکردند چه میشد!!!

:e420:.If it can be done, someone's gonna do it. Let's make sure they're the good guys

- نمیتوان آن ها را کنترل کرد و جهت داد. اینها اساسا ناپایدار و غیر قابل پیش بینی هستند و هر گونه استفاده از آنها منجر به آخرالزمان میگردد. در اینجا دو چیز باید روشن شود:

- آیا ناپایدار الزاما به معنی مخرب است؟ از بحث محبوب روانپزشکی مثال بزنم. یک اسکیزوفرن نمیتواند قاتل زنجیره ای باشد. یک سایکوپت میتواند. حتی مخرب بودن نیز نیاز به پایداری و هدفمندی دارد.

- آیا اسکای نت دم در ایستاده است؟ طوری از این تکنولوژی ها سخن میگویید گویا همین فردا اتفاق خواهد افتاد! ما هنوز نتوانسته ایم 302 نورون یک کرم را شبیه سازی کنیم، چطور انتظار دارید بشر چیزی در این حد پیچیده بسازد سپس نتواند آن را کنترل کند؟ هوش مصنوعی را 30 سال بعد دانشمندانی مجهز به Nootropics و Neural Augmentations خواهند ساخت، کسانی که تفاوت زیادی با آن ندارند!