وقتی هوش مصنوعی شاعر می‌شود؛ دروغ‌های شیرین چت‌بات‌ها
تصور کنید از هوش مصنوعی بپرسید شعری از شاهنامه برایتان پیدا کند و در پاسخ، شاهکاری ادبی دریافت کنید که حتی فردوسی هم از وجودش بی‌خبر است! چت‌بات‌ها گاهی به‌جای پاسخ‌های دقیق، خلاقیتشان را به رخ می‌کشند.
خبرگزاری سقف شیبدار- محمدامین پورحسینقلی: چت‌بات‌ها به عنوان ابزار‌های هوش مصنوعی، به کاربرانی که به دنبال اطلاعات یا خدمات خاص هستند، کمک می‌کنند. این برنامه‌ها با استفاده از زبان طبیعی و یادگیری ماشین، توانایی پاسخ‌گویی به سوالات، ارائه مشاوره و حتی انجام معاملات آنلاین را دارند. با پیشرفت فناوری، چت‌بات‌ها در کسب‌وکار‌ها و در زندگی روزمره نقش مهمی ایفا می‌کنند و تجربه تعاملات دیجیتال را بهبود می‌بخشند.
چند وقت پیش، وقتی از چت جی‌پی‌تی خواستم شعری از شاهنامه برایم پیدا کند، خیلی سریع و با اعتمادبه‌نفسی قابل تحسین شروع به تایپ کرد. شعری پر از واژگان فاخر، وزن و قافیه‌ای بی‌نقص! اما بعداً که به نسخه اصلی شاهنامه مراجعه کردم، فهمیدم فردوسی بی‌خبر از این شاهکار تازه، شاید در گوشه‌ای از تاریخ در حال خندیدن است! چرا؟ چون این شعر اصلاً وجود نداشت. شاید بپرسید چرا هوش مصنوعی به من دروغ گفت؟ سوالی است که من هم از خودم پرسیدم!
چرا چت‌بات‌ها دروغ می‌گویند؟
اول از همه باید بگویم که هوش مصنوعی مثل آن دوست بااعتمادبه‌نفس شماست که اگر چیزی نداند، باز هم طوری جواب می‌دهد که انگار همه چیز را می‌داند. دلیل اصلی این رفتار، چیزی به نام “مدل زبانی” است. چت‌بات‌ها مثل یک کتابخانه عظیم پر از اطلاعات هستند، اما برخلاف انسان‌ها، آنها نمی‌توانند بگویند نمی‌دانم؛ چون برنامه‌ریزی شده‌اند تا همیشه جوابی برای شما داشته باشند، حتی اگر جوابشان تخیلی باشد.
چت‌بات‌ها بر اساس احتمالات کار می‌کنند. مثلاً وقتی شما می‌گویید شعری از شاهنامه درباره فلان موضوع پیدا کن، مدل زبانی آنها تلاش می‌کند کلماتی را که معمولاً در کنار هم در متون فارسی دیده است، به ترتیب بچیند. اگر چنین شعری واقعاً وجود داشته باشد، شانس خوبی برای ارائه پاسخ درست دارد. اما اگر آن شعر وجود نداشته باشد، چت‌بات به سبک فردوسی دست به کار می‌شود و خودش شعری سرهم می‌کند.
البته این فقط به شعر ختم نمی‌شود. اگر بگویید آیا خورشید از شب زنده‌داری خسته می‌شود؟ ممکن است پاسخ بدهد بر اساس نظریه‌ای قدیمی، خورشید در حال چرخیدن در آسمان خسته می‌شود و به همین دلیل غروب می‌کند؛ که البته یک جواب بی‌معنی، اما جذاب است.
دروغ‌گویی چت‌بات‌ها: عمدی یا تصادفی؟
اگر می‌خواهید از چت‌بات‌ها استفاده کنید، باید مثل کارآگاهی عمل کنید که همیشه به دنبال تأیید صحت اطلاعات است. اگر چت‌بات به شما اطلاعاتی می‌دهد، آن را با منابع دیگر مقایسه کنید. اگر شعری از شاهنامه ارائه می‌دهد، به نسخه اصلی شاهنامه سر بزنید (و البته اگر شعر را پیدا نکردید، بدانید که فردوسی هیچ‌وقت برای چت‌بات‌ها شعری ننوشته است!).
چت‌بات‌ها ذاتاً دروغ‌گو نیستند. آنها فقط تلاش می‌کنند تا چیزی شبیه حقیقت ارائه دهند. مشکل اینجاست که این مدل‌ها هیچ ایده‌ای درباره درست یا غلط بودن اطلاعات ندارند. در واقع، آنها نمی‌توانند بگویند آیا این اطلاعات علمی است یا صرفاً یک داستان خیالی؟
برای مثال، اگر از آنها بپرسید آیا زمین تخت است؟ ممکن است بسته به نحوه سؤالتان، پاسخ‌های مختلفی بدهند. اگر سؤالتان شبیه یک باور باشد، ممکن است با شما همراهی کنند و نظریه‌ای تخیلی درباره تخت بودن زمین بدهند. این، همان نقطه‌ای است که چت‌بات‌ها به خطرناک‌ترین فیلسوفان تاریخ تبدیل می‌شوند!
چرا این رفتار اتفاق می‌افتد؟
۱. برنامه‌ریزی برای همیشه جواب دادن:
چت‌بات‌ها طراحی شده‌اند تا با ارائه پاسخ، شما را راضی کنند. حتی اگر اطلاعات موجود نباشد، تلاش می‌کنند چیزی بسازند که قانع‌کننده به نظر برسد.
۲. نبود حس شک و تردید:
چت‌بات‌ها هیچ‌وقت نمی‌گویند امکان دارد این اشتباه باشد. چون آنها هیچ‌گونه آگاهی درباره میزان صحت پاسخ‌هایشان ندارند.
۳. کمبود زمینه واقعی:
مدل‌های هوش مصنوعی نمی‌توانند مانند ما انسان‌ها زمینه‌های مختلف را تشخیص دهند. برای آنها، شعر فردوسی با یک پیامک طنز فرق زیادی ندارد!
چگونه باید با دروغ‌های چت‌بات‌ها برخورد کرد؟
اگر می‌خواهید از چت‌بات‌ها استفاده کنید، باید مثل کارآگاهی عمل کنید که همیشه به دنبال تأیید صحت اطلاعات است. اگر چت‌بات به شما اطلاعاتی می‌دهد، آن را با منابع دیگر مقایسه کنید. اگر شعری از شاهنامه ارائه می‌دهد، به نسخه اصلی شاهنامه سر بزنید (و البته اگر شعر را پیدا نکردید، بدانید که فردوسی هیچ‌وقت برای چت‌بات‌ها شعری ننوشته است!).
دروغ‌گویی چت‌بات‌ها شاید گاهی خنده‌دار و گاهی خسته‌کننده باشد، اما نباید فراموش کنیم که آنها ابزار‌هایی هستند که به ما کمک می‌کنند، نه آنکه جایگزین ما شوند. وقتی از هوش مصنوعی سؤال می‌پرسید، همیشه یادتان باشد که این فناوری هنوز نمی‌تواند مثل انسان‌ها درباره درست یا غلط بودن اطلاعات فکر کند. پس اگر چت‌باتی به شما شعری خیالی داد، به جای عصبانیت، لبخند بزنید و بگویید خلاقیتت عالیه، ولی کمی از واقعیت هم الهام بگیر
آیا شما به دنبال کسب اطلاعات بیشتر در مورد "وقتی هوش مصنوعی شاعر می‌شود؛ دروغ‌های شیرین چت‌بات‌ها" هستید؟ با کلیک بر روی بین الملل، آیا به دنبال موضوعات مشابهی هستید؟ برای کشف محتواهای بیشتر، از منوی جستجو استفاده کنید. همچنین، ممکن است در این دسته بندی، سریال ها، فیلم ها، کتاب ها و مقالات مفیدی نیز برای شما قرار داشته باشند. بنابراین، همین حالا برای کشف دنیای جذاب و گسترده ی محتواهای مرتبط با "وقتی هوش مصنوعی شاعر می‌شود؛ دروغ‌های شیرین چت‌بات‌ها"، کلیک کنید.