04-09-2016, 12:17 AM
Nilftrondheim نوشته: برای رسیدن به قطار فکری که مطرح کردید اصلا هوش مصنوعی لازم نیست، هر عقل سلیمی میتواند به نتیجه ای مشابه برسد. البته با اخته کردن اکثر انسان ها، نه هولوکاست. ناگهان دیگر ترسناک نیست، هست؟
ماشین ساخت دست بشر میتواند خود اصلاح گر باشد و به مدد فیدبک مثبت (Bootstrapping) به درجه ای از توانایی برسد که قابل تصور نیست. با این وجود، قبلا هم گفته ام که بشری که بتواند AI بسازد، خیلی پیشتر به mind uploading و neural augmentation دست یافته و جای نگرانی نیست.
لازم نیست همه را اخته کرد تا هلوکاستی اتفاق نیوفتد! کافیست افسار دست دیوانگان نیوفتد! در مورد ساخت ماشین مورد نظر، پیدا کنید کلی دانشمند دیوانه که بتوانند همزمان با هدفی شوم جهت نابودی بشر روی پروژه ای مشترک کار کنند! پیدا کردید به ما هم بگویید کجایند بهشان بپیوندیم دیدن آن همه کُس خُل یک جا حال میدهد
همچنین میشود ماشینی ساخت که هرگز قواعد بنیادین خودش را نتواند نقض کند!
خدای ار به حکمت ببندد دری - به کرمک زند قفل محکم تری
![[-]](https://daftarche.com/images/bootbb/collapse.png)