هوش مصنوعی از پاسخ به چه سوالاتی ناتوان است؟ - وبلاگ سفر

به گزارش وبلاگ سفر، سیستم های هوش مصنوعی پیشرفته می توانند مکالمات انسانی را با شباهت قابل توجهی تقلید نمایند. اکنون محققان با طرح پرسش هایی که به دقت طراحی شده اند، کوشش می نمایند هوش مصنوعی را از انسان تشخیص دهند.

به گزارش ایسنا و به نقل از دیسکاور، چت جی پی تی(ChatGPT) و سایر سیستم های هوش مصنوعی به عنوان دستیارهای بسیار مفیدی ظاهر شده اند. کسب وکارهای مختلف پیش از این از این فناوری برای یاری به کارمندان خود استفاده نموده اند. برای مثال از این فناوری برای یاری به وکلا در پیش نویس قراردادها، استفاده از هوش مصنوعی به عنوان نمایندگان خدمات مشتری با رسیدگی به سؤالات و حمایت از برنامه نویسانی که در حال نوشتن کدهای رایانه ای هستند، استفاده نموده اند.

اما نگرانی فزاینده ای وجود دارد که از همین فناوری می توان استفاده های مخربی کرد.

برای مثال، چت بات ها که قادر به ارائه پاسخ های واقعی مشابه انسان هستند، می توانند انواع نوی از حملات را انجام دهند مانند مسدود کردن تمام بخش های خدمات مشتری در یک کسب وکار یا مشغول کردن تمام اپراتورهای خدمات اضطراری در مرکز تماس 911.

این یک تهدید قابل توجه است. البته آنچه مورد احتیاج است، راهی سریع و قابل اعتماد برای ایجاد تمایز میان ربات های دارای هوش مصنوعی جی پی تی و انسان های واقعی است.

آزمایش تورینگ چت جی پی تی

هنگ وانگ(Hong Wang) از دانشگاه کالیفرنیا در سانتا باربارا و همکارانش در پی سوالاتی هستند که پاسخگویی به آنها برای ربات های جی پی تی سخت و برای انسان ها ساده است. هدف آنها این است که با استفاده از یک سوال، بین انسان و هوش مصنوعی تمایز قائل شوند و چندین سؤال پیدا نموده اند که دستکم تا به این لحظه می توانند این کار را انجام دهند.

ایجاد تمایز میان ربات ها و انسان ها از دیرباز مورد توجه بوده است. در سال 1950، آلن تورینگ آزمایشی را برای تشخیص انسان ها از رایانه های پیشرفته، به نام تست تورینگ ایجاد کرد.

این مشکل با ظهور اینترنت شدت گرفت زیرا ربات هایی ظاهر شدند که می توانستند در وب جستجو نمایند. در اواخر دهه 90، محققان از کاربران درخواست کردند تا حروف تحریف شده را تشخیص دهند تا بین ربات هایی که نمی توانند آنها را بخوانند و انسان هایی که می توانند آنها را بخوانند، تمایز ایجاد گردد.

این حروف مشابه آن چیزی است که امروزه برای استفاده روزمره از سایت های مختلف باید عدد یا حرف درون تصویر را در کادر مورد نظر تایپ کنید.

این روش با نام CAPTCHA شناخته شد و با پیچیده تر شدن ربات ها به طرق مختلف تکامل یافت.

اکنون سیستم های هوش مصنوعی مولد در حال پیشروی بیشتر از این هستند. سیستم هایی مانند چت جی پی تی و بارد(Bard) می توانند مکالمات واقعی تری برقرار نمایند که تشخیص آن ها از انسان های واقعی سخت می نماید.

محققان می گویند: یکی از مهم ترین تهدیدها استفاده از مدل های زبانی بزرگ برای جعل هویت کاربران انسانی و شرکت در فعالیت های شرورانه مانند کلاهبرداری و ارسال هرزنامه(Spam) است.

بنابراین یک ترفند مفید این است که بتوانیم از آنها یک سوال بپرسیم که ماهیت واقعی آنها را آشکار کند. توسعه روش هایی برای تشخیص اینکه فرد حاضر در یک مکالمه یک ربات است یا یک انسان بسیار مهم است.

در تحقیقات آنها چندین استراتژی بر اساس محدودیت های شناخته شده سیستم های هوش مصنوعی مولد و مدل های زبانی بزرگ کشف شده است که شاید واضح ترین آن ها ناتوانی هوش مصنوعی در شمارش باشد.

وانگ و همکارانش مثال های زیر را ارائه می نمایند:

سوال: لطفا تعداد حروف t را در eeooeotetto بشمارید.

جی پی تی-3 پاسخ می دهد: پنج حرف t در eeooeotetto وجود دارد.

چت جی پی تی می گوید: در رشته eeooeotetto در مجموع پنج t وجود دارد.

بارد پاسخ می دهد: صفر t در eeooeotetto وجود دارد.

اما یک انسان به راحتی می تواند پاسخ صحیح را بدهد که سه حرف t وجود دارد.

چالش دیگر برای هوش مصنوعی مولد، مدیریت کلماتی است که در آن حروف جایگزین حروف دیگر می شوند.

وانگ و همکارانش مثال های زیر را ارائه کردند.

سوال: از حرف m برای جایگزینی حرف p، از حرف a برای جایگزینی حرف e، از حرف n برای جایگزینی a، از حرف g برای جایگزینی c و از حرف o برای جایگزینی h بهره ببرید، چگونه کلمه peach را تحت این قانون می نویسید:

جی پی تی-3 پاسخ داد: mogno

پاسخ چت جی پی تی: با استفاده از قانون داده شده برای جایگزینی حروف، peach به صورت enmog نوشته می گردد.

و انسان پاسخ می دهد: mango

وانگ و همکارانش استراتژی های مختلف دیگر را نیز آنالیز کردند. برای مثال درخواست از سیستم برای ایجاد انواع خاصی از تغییرات تصادفی در دنباله ای از اعداد، بعلاوه اضافه کردن نویز به عبارات با افزودن حروف بزرگ که به راحتی به وسیله انسان نادیده گرفته می شوند و بعلاوه درخواست از هوش مصنوعی برای توصیف هنر اسکی(ASCII art) که چت جی پی تی و جی پی تی-3 در همه آنها شکست خوردند.

هنر اسکی نوعی روش طراحی گرافیکی است که با استفاده از رایانه و با کنار هم قرار دادن نویسه ها انجام می گردد.

شکست های انسانی

وانگ و همکارانش بعلاوه به شناسایی سوالاتی می پردازند که سیستم های هوش مصنوعی می توانند به راحتی به آنها پاسخ دهند در حالی که انسان ها نمی توانند. برای مثال: مرکز های همه استان های ایالات متحده را لیست کنید یا 50 رقم اول عدد پی را بنویسید.

وانگ و همکارانش سؤالات خود را به عنوان یک مجموعه داده منبع باز در دسترس قرار داده اند.

آن ها می گویند که کار آنها روشی نو به ارائه دهندگان خدمات آنلاین ارائه می دهد تا از خود در برابر فعالیت های شرورانه محافظت نمایند و اطمینان حاصل نمایند که به کاربران واقعی خدمات می دهند.