[فیلیپ]

در اینجا موضوع تندی محاسبه نیست، پیچیدگی بیشتر سیستم است.

خود-آگاهی بنظرم میرسد که از category کاملا متفاوتی از پردازش (رد و بدل اطلاعات) باشد. پردازش هر چه سریع و پیچیده هم باشد، همچنان نمی تواند تبدیل به خودآگاهی شود.

اما برای ساختن این نرم‌افزار ما همچنان چیزی به نام «ذهن» نمی‌نویسیم که برای نمونه رنگ ببیند، نرم‌افزار تنها
میان یاخته‌های ما یک بستر ارتباطی فراهم می‌کند تا یاخته‌ها بتوانند با یکدیگر خورد و بازخورد داده داشته باشند،

ما نمی توانیم برنامه ای بنویسیم که باعث دیدن رنگ شود. کارایی برنامه و سخت افزار تنها به همان "خورد و بازخورد" محدود می شود. "خورد و بازخورد" هم هرچقدر بیشتر، سریعتر و یا در همتنیده تر باشند، همچنان نمی توانند به یک صنف اساسا متفاوت (حالات کیفی، آگاهی، انتخاب و ...) تبدیل شوند.
به همین دلیل (به فرض نشات ذهن از جسم) دستگاه عصبی بایستی جنبه ی دیگری به غیر از این "خورد و بازخورد" ها داشته باشد که حالات ذهنی را بوجود می آورد. این جنبه از دستگاه عصبی از آنجایی که در حال حاضر شناخته شده نیست، در دانش artificial intelligence تیز نمی تواند بکارگرفته شود و به این خاطر با اطلاعات کنونیمان قادر به ساخت ذهن نیستیم.

این مسئله در هوش ساختگی به نام «اتاق چینی» معروف است:

دوست ارجمند؛
«اتاق چینی» یک آزمایش فکری برای اثبات موضع اینجانب است (که بنده اتفاقا دو بار هم به آن اشاره کرده ام). این آزمایش نشان می دهد که که کار یک کامپیوتر مثل رد بدل یک سری نوشته ی چینی است که شخص آن ها را نمی فهمد. درواقع مثال می خواهد بگوید که پردازش (computation) چیزی اساسا متفاوت از فهم و آگاهیست.

According to strong AI, . . . the appropriately programmed computer really is a mind, in the sense that computers given the right programs can be literally said to understand and have other cognitive states.[1

جمله ی پرنگ شده ادعای strong AI* است که مثال اتاق چینی آن را رد می کند.
* strong Artificial Intelligence

The experiment is the centerpiece of Searle's Chinese Room Argument which holds that a program cannot give a computer a "mind" or "understanding", regardless of how intelligently it may make it behave.[SUP][1][/SUP] He concludes that "programs are neither constitutive of nor sufficient for minds."[SUP][2][/SUP] "I can have any formal program you like, but I still understand nothing

جان سرل و هربرت دریفوس (فلاسفه ی مشهور دانشگاه برکلی که از مراکز تحقیقاتی پیشتاز در علوم شناختیcognitive science و فلسفه ی ذهن باشد) مدت هاست که به نقد AI پرداخته اند و از قضا این نقدهایشان با شکست پروژه های AI در دانشگاه MIT کلی هم جان گرفته اند.[SUP][URL="http://en.wikipedia.org/wiki/Chinese_room#cite_note-FOOTNOTESearle1980-0"]
[/URL][/SUP]