آیا هوش مصنوعی دچار توهم می‌شود؟

آیا واقعاً هوش مصنوعی توهم می‌زند؟ این سوالی است که در دنیای امروز مطرح می‌شود. برای درک بهتر این پدیده، به هوش مصنوعی توهم و چالش‌های آن می‌پردازیم. برای اطلاعات بیشتر، به ویکی‌پدیا مراجعه کنید.

این روزها زیاد می‌شنویم که می‌گویند:

«هوش مصنوعی توهم زد!»

«چت‌بات اطلاعات جعلی ساخت!»

«AI یه چیز کاملاً اشتباه رو با اعتماد کامل گفت!»

اما واقعاً توهم در هوش مصنوعی یعنی چه؟

آیا هوش مصنوعی مثل انسان دچار توهم می‌شود؟

چرا گاهی با قطعیت، اطلاعات غلط یا حتی ساخته‌شده ارائه می‌کند؟

و مهم‌تر از همه: چطور باید با این توهم‌ها کنار بیاییم و جلوی آسیب را بگیریم؟

در این مقاله، به زبان ساده و در عین حال دقیق، این موضوع را باز می‌کنیم.

اول از همه: «توهم» در هوش مصنوعی یعنی چه؟

در روان‌شناسی، توهم معمولاً یعنی:

ادراک یا باوری که با واقعیت بیرونی مطابقت ندارد، اما فرد آن را واقعی می‌پندارد.

در هوش مصنوعی (به‌خصوص مدل‌های زبانی مانند چت‌بات‌ها)، وقتی می‌گوییم:

«AI دچار توهم شد»

منظورمان این است که:

• مدل، خروجی ظاهراً منطقی و قانع‌کننده تولید می‌کند
• اما این خروجی از نظر واقعی/علمی اشتباه است
• یا کاملاً ساخته ذهن مدل است و منبع واقعی در جهان خارج ندارد

مثلاً:

• برای یک مقاله علمی، منابع جعلی می‌سازد
• اسم کتاب و نویسنده‌ای را می‌گوید که اصلاً وجود ندارد
• ادعای تاریخی یا پزشکی‌ای را مطرح می‌کند که واقعیت ندارد
• عدد و آمار کاملاً ساختگی ارائه می‌کند

به این رفتارها در مدل‌های زبانی می‌گویند: Hallucination یا «توهم مدل».

نکته مهم:

مدل «واقعیت را نمی‌فهمد»، بلکه فقط «الگوهای زبان» را یاد گرفته است.

بنابراین اگر داده ناکافی یا مبهم باشد، ترجیح می‌دهد «چیزی بسازد» تا سکوت کند.

آیا هوش مصنوعی مثل انسان «حس» و «ادراک» دارد؟

خیر.

برای اینکه تفاوت را دقیق‌تر بفهمیم:

توهم در انسان چیست؟

در انسان‌ها، توهم معمولاً مربوط است به:

• اختلال در سیستم عصبی
• تغییر در ادراک حسی (بینایی، شنوایی و…)
• یا اختلالات روان‌شناختی

در توهم انسانی، فرد واقعاً چیزی را می‌بیند/می‌شنود/باور می‌کند که وجود ندارد،

و این تجربه، برای او ذهنی و درونی است.

در هوش مصنوعی چه؟

مدل‌های زبانی (مثل چت‌بات‌ها):

• حس و ادراک ندارند
• فهم واقعی از جهان ندارند
• خودآگاهی ندارند

آن‌ها فقط:

بر اساس الگوهای آماری یاد گرفته‌اند که بعد از این کلمه، معمولا چه کلمه‌ای می‌آید؟

پس وقتی اطلاعات غلط تولید می‌کنند،

این نه از «اختلال روانی» است، نه از «دیدن چیزی که وجود ندارد»،

بلکه از محدودیت‌ها و ساختار آماری مدل ناشی می‌شود.

به همین خاطر، اصطلاح «توهم» در AI یک تشبیه است، نه دقیقاً همان مفهوم انسانی.

چرا هوش مصنوعی دچار توهم می‌شود؟ ۶ دلیل مهم

برای اینکه بتوانیم بهتر با این مشکل کنار بیاییم، باید ریشه‌های آن را بشناسیم.

۱. ماهیت احتمالاتی (Probabilistic) مدل‌های زبانی

مدل‌های زبانی، به زبان ساده، این کار را می‌کنند:

حدس می‌زنند محتمل‌ترین دنباله کلمات بعدی چیست.

آن‌ها هدف‌شان گفتن حقیقت نیست؛

هدف‌شان این است که جمله‌ای بسازند که از نظر زبانی و منطقی «محتمل و طبیعی» به نظر برسد.

وقتی سوالی می‌پرسید که:

• داده کافی در آن زمینه نداشته
• یا سوال مبهم/چندپهلو است

مدل از روی احتمال و شباهت به متن‌های قبلی، پاسخی می‌سازد که ممکن است

ظاهراً منطقی، اما در واقعیت غلط باشد.

۲. کمبود یا نبود داده واقعی در آن حوزه

اگر مدل در زمان آموزش:

• در مورد یک موضوع خاص داده کمی دیده باشد
• یا اصلاً اصلاً داده‌ای ندیده باشد

در آن حوزه، مجبور است بیشتر حدس بزند.

مثلاً در مورد:

• افراد خیلی ناشناخته
• شرکت‌های کوچک
• موضوعات خیلی جدید
• قوانین و مقررات محلی خاص

احتمال توهم بالاتر می‌رود.

۳. ابهام یا نقص در سوال کاربر

اگر سوال شما:

• دقیق نباشد
• چند معنا داشته باشد
• جزئیات مهم را نداشته باشد

مدل سعی می‌کند خودش خلاها را پر کند.

مثلاً:

«برای فلان دارو چه عوارضی ممکن است داشته باشم؟»

بدون اینکه سن، بیماری زمینه‌ای، نوع مصرف و… را بدانند،

پاسخی کلی و احتمالی می‌دهد؛ اما کاربر ممکن است آن را قطعی برداشت کند.

۴. تنظیمات و نحوه پاسخ‌دهی (Temperature و سبک تولید)

برخی تنظیمات مدل (مثل temperature) بر میزان:

• خلاقیت
• تنوع پاسخ
• ریسک «ساختن جواب»

تأثیر می‌گذارند.

• دما بالاتر → پاسخ خلاق‌تر، اما احتمال توهم بیشتر
• دما پایین‌تر → پاسخ محافظه‌کارتر، تکراری‌تر، اما امن‌تر

برای کاربردهایی مثل داستان‌نویسی، توهم کم‌اشکال است؛

اما برای پزشکی، حقوق، مالی، باید تنظیمات محافظه‌کارتر باشد و کنترل بیشتری اعمال شود.

۵. نبود اتصال به پایگاه داده یا وب (در برخی مدل‌ها / حالت‌ها)

اگر مدل:

• در حالت فقط زبانی (بدون جستجوی وب) باشد
• یا به منابع به‌روز وصل نباشد

برای سوالات مربوط به تاریخ‌های جدید، رویدادهای تازه یا آمار لحظه‌ای

ممکن است اطلاعات قدیمی یا نادرست بدهد،

یا بدتر: عدد و منبع را بسازد.

۶. توقع بیش از حد ما از AI

گاهی مشکل، نه در مدل، بلکه در انتظارات ما است.

• ما فکر می‌کنیم AI «همه‌چیزدان» است
• انتظار داریم در همه حوزه‌ها مثل متخصص عمل کند

در حالی که این مدل‌ها:

• نه مدرک پزشکی دارند، نه وکالت
• نه بازار را واقعی تجربه کرده‌اند
• فقط حجم زیادی متن خوانده‌اند و الگو یاد گرفته‌اند

بنابراین اگر آن‌ها را به‌عنوان مشاور مطلق و قطعی ببینیم،

خودمان را در معرض خطر توهم‌های‌شان قرار می‌دهیم.

توهم AI چه خطراتی دارد؟ (در زندگی شخصی و کسب‌وکار)

توهم‌های هوش مصنوعی، بسته به حوزه کاربرد، می‌تواند:

۱. در حوزه پزشکی و سلامت

• ارائه توصیه‌های نادرست
• کوچک شمردن یک مشکل جدی
• پیشنهاد درمان‌های غیرعلمی

که می‌تواند برای سلامتی خطرناک باشد.

۲. در حوزه حقوقی و قراردادی

• ارائه تفسیر غلط از قانون
• ساختن «مواد قانونی» که وجود خارجی ندارد
• پیشنهاد مفاد قراردادی نادرست

که می‌تواند باعث مشکلات حقوقی جدی شود.

۳. در کسب‌وکار و مالی

• پیش‌بینی‌های غیرواقعی
• تحلیل نادرست بازار
• ارائه آمار ساختگی

که ممکن است تصمیم‌های استراتژیک شما را منحرف کند.

۴. در محتوا و اعتبار برند

• انتشار اطلاعات غلط در وب‌سایت، شبکه اجتماعی یا خبرنامه
• ساختن منابع جعلی
• تکرار کلیشه‌ها و سوگیری‌ها

که به اعتبار شما و برندتان ضربه می‌زند.

چطور توهم هوش مصنوعی را تشخیص دهیم؟ (چند علامت عملی)

هیچ روشی ۱۰۰٪ نیست، اما این نشانه‌ها کمک می‌کنند حساس‌تر باشید:

1. قطعیت زیاد همراه با نبود منبع

   • اگر مدل با اطمینان کامل حرف می‌زند، ولی منبع نمی‌دهد، احتیاط کنید.

2. اسم افراد، کتاب‌ها، مقالاتی که آشنا نیستند

   • به‌خصوص اگر در حوزه خودتان متخصص هستید و تا حالا نشنیده‌اید.

3. آمار و ارقام دقیق اما بدون ارجاع

   • مثلاً: «۷۳٪ از مردم…» بدون ذکر پژوهش یا سازمان منتشرکننده.

4. تناقض در پاسخ‌ها در دفعات مختلف

   • اگر همان سوال را بعداً بپرسید و جواب کاملاً فرق کند، ممکن است یکی از آن‌ها توهم باشد.

5. عدم پذیرش خطا در پاسخ اول

   • بعضی مدل‌ها در پاسخ اول خیلی مطمئن‌اند، اما وقتی از آن‌ها می‌پرسید «منبع؟»، شروع به عقب‌نشینی یا اصلاح می‌کنند.

چگونه ریسک توهم هوش مصنوعی را کم کنیم؟ (برای کاربران عادی و حرفه‌ای)

۱. همیشه پاسخ‌های AI را «پیش‌نویس» ببینید، نه نسخه نهایی

• به پاسخ‌ها نگاه کنید مثل پیشنهاد اولیه
• خودتان ویرایش، بررسی، و تأیید کنید
• به‌خصوص در کارهای حساس، همیشه یک لایه کنترل انسانی بگذارید

۲. از AI بخواهید منبع بدهد (و منبع را واقعاً چک کنید)

• بگویید:
  • «منابع علمی را هم نام ببر»
  • «لینک مقالات معتبر را بده»
• بعد خودتان:
  • نام مقاله، ژورنال، نویسنده را در وب جستجو کنید
  • مطمئن شوید واقعاً وجود دارد

اگر منبع وجود ندارد یا با واقعیت نمی‌خواند، احتمالاً با یک توهم طرفید.

۳. سوال‌ها را دقیق، شفاف و با زمینه کافی بپرسید

هرچه سوال شما:

• مشخص‌تر
• با جزئیات بیشتر
• و با زمینه دقیق‌تر باشد

مدل کمتر مجبور می‌شود حدس بزند و توهم بسازد.

مثلاً:

• به‌جای: «بهترین درمان سردرد چیست؟»
• بگویید: «برای یک فرد ۳۰ ساله بدون بیماری زمینه‌ای، که گاهی سردرد خفیف دارد، چه توصیه‌های عمومی (غیرجایگزین مراجعه به پزشک) برای کاهش سردرد وجود دارد؟»

۴. برای حوزه‌های حساس، حتماً با متخصص واقعی مشورت کنید

هوش مصنوعی:

• برای ایده‌گیری
• برای ساختار
• برای توضیح اولیه

عالی است.

اما در پزشکی، حقوق، مالی و تصمیم‌های بزرگ زندگی:

AI می‌تواند کمک‌کننده باشد، اما جایگزین متخصص نیست.

همیشه خروجی AI را در کنار نظر یک انسان متخصص قرار دهید.

۵. از مدل بخواهید عدم قطعیت را هم بیان کند

می‌توانید از AI بخواهید:

• سطح اطمینان خود را بگوید
• سناریوهای جایگزین را مطرح کند
• بگوید در کجا مطمئن نیست

مثلاً:

«اگر مطمئن نیستی، حتماً بگو که مطمئن نیستی و فقط حدس می‌زنی.»

این کار، مدل را تشویق می‌کند با احتیاط بیشتری پاسخ بدهد.

آیا در نسخه‌های جدیدتر، توهم کمتر می‌شود؟

مدل‌های جدیدتر هوش مصنوعی معمولاً:

• دقت بالاتری دارند
• در تشخیص سوال مبهم بهتر عمل می‌کنند
• در بسیاری موارد کمتر توهم می‌زنند
• یا حداقل بیشتر اعلام می‌کنند که مطمئن نیستند

همچنین ترکیب مدل زبانی با:

• جستجوی وب
• پایگاه داده‌های ساختارمند
• سیستم‌های بررسی منبع

کمک می‌کند میزان توهم کاهش یابد.

اما:

توهم به‌طور کامل از بین نمی‌رود؛

فقط کمتر، کنترل‌شده‌تر و قابل‌مدیریت‌تر می‌شود.

آیا می‌توان توهم را به صفر رساند؟

در عمل، خیر.

چرا؟

• چون مدل باز هم بر اساس احتمال کار می‌کند
• همیشه حوزه‌هایی وجود دارند که داده کافی ندارد
• سوالات مبهم و پیچیده همیشه وجود خواهند داشت

هدف واقع‌بینانه‌تر این است که:

• احتمال توهم را کاهش دهیم
• توهم‌های خطرناک را محدود کنیم
• و با آموزش کاربران، تاثیر منفی آن‌ها را کم کنیم

آیا هوش مصنوعی دچار توهم می‌شود؟

• بله، مدل‌های زبانی هوش مصنوعی می‌توانند خروجی‌های نادرست، ساختگی و حتی خیالی تولید کنند.
• این رفتار را «توهم» می‌نامیم، اما این توهم مثل توهم انسانی نیست؛
  • نه از احساس است
  • نه از ادراک حسی
  • بلکه نتیجه ماهیت احتمالاتی و محدودیت‌های داده است.

بنابراین:

• هوش مصنوعی ابزار بسیار قدرتمند است،
• اما بی‌خطا نیست،
• و اگر بدون آگاهی از توهم‌ها به آن تکیه کنیم، می‌تواند خطرناک شود.

یک قاعده ساده برای استفاده امن از AI

قبل از اینکه خروجی AI را بپذیرید، از خودتان بپرسید:

1. آیا حوزه‌ای حساس است؟ (سلامت، حقوق، مالی، امنیت، تصمیم‌های بزرگ)
2. آیا می‌توانم منبع مستقل پیدا کنم؟
3. آیا می‌توانم با یک انسان متخصص هم چک کنم؟

اگر جواب سوال دوم و سوم «نه» است،

با احتیاط بیشتری به پاسخ AI اعتماد کنید.