به گزارش خبرگزاری کتاب ایران(ایبنا) از ورج، مارگارت اتوود، نویسنده برجسته ادبیات معاصر، در جریان گفت‌وگویی در جشنواره ادبی و فرهنگی «بابِل» (Babell Literary Festival) در شهر پورتوی پرتغال، دیدگاه انتقادی خود را درباره هوش مصنوعی مولد و چت‌بات‌های مبتنی بر مدل‌های زبانی بزرگ (LLM) بیان کرد.

اتوود که بیشتر با رمان‌های پرفروش «سرگذشت ندیمه» و «آدمکش کور» شناخته می‌شود، گفت تنها یک‌بار از چت‌بات هوش مصنوعی شرکت Anthropic با نام Claude استفاده کرده است؛ تجربه‌ای که به گفته او چندان رضایت‌بخش نبوده است.

او توضیح داد که برای یافتن اطلاعاتی درباره مجموعه تلویزیونی کارآگاهی بریتانیایی «پدر براون» (Father Brown) از Claude کمک گرفته، اما این چت‌بات پاسخ اشتباهی به او داده است.

اتوود در این باره گفت: «Claude پاسخ نادرستی به من داد، یا اگر بخواهید بگویید، دروغ گفت. البته خودش نمی‌دانست که دروغ می‌گوید، چون انسان نیست؛ بلکه یک مدل زبانی بزرگ است. این سیستم تعداد زیادی از نقدها و مطالب مربوط به این مجموعه تلویزیونی را مرور کرده بود، اما منتقدان معمولاً پایان داستان را در نقدهای اینترنتی فاش نمی‌کنند و همین باعث شده بود مدل از اطلاعات ناقص برداشت اشتباه داشته باشد.»

این نویسنده همچنین از افرادی که بدون بررسی و تحقیق به هوش مصنوعی تکیه می‌کنند، انتقاد کرد و گفت بسیاری از کاربران صرفاً به دنبال ساده‌ترین راه برای انجام کارها هستند.

به گفته اتوود، انسان‌ها ذاتاً فرصت‌طلب هستند و اگر راهی آسان برای تقلب یا دور زدن زحمت وجود داشته باشد و احتمال شناسایی آن کم باشد، بسیاری از افراد از آن استفاده خواهند کرد.

او افزود: «انسان‌ها ربات نیستند، اما فرصت‌طلب‌اند؛ بنابراین اگر راه آسانی برای تقلب وجود داشته باشد و تشخیص آن دشوار باشد، عده زیادی از آن استفاده می‌کنند.»

اتوود در ادامه به یکی از شناخته‌شده‌ترین انتقادها نسبت به هوش مصنوعی اشاره کرد و گفت کیفیت خروجی این سامانه‌ها کاملاً به کیفیت داده‌های آموزشی آن‌ها وابسته است.

او اظهار داشت: «مشکل هوش مصنوعی این است که اگر داده‌های ورودی بی‌کیفیت باشد، خروجی هم بی‌کیفیت خواهد بود. حتی کسانی که از هوش مصنوعی در کسب‌وکار استفاده می‌کنند، ناچارند پاسخ‌های آن را دوباره بررسی و راستی‌آزمایی کنند، زیرا این سیستم‌ها همچنان مرتکب اشتباه می‌شوند.»

اظهارات اتوود در شرایطی مطرح شده است که استفاده از ابزارهای هوش مصنوعی در حوزه‌های مختلف از جمله آموزش، تولید محتوا، پژوهش و کسب‌وکار به سرعت در حال گسترش است. هم‌زمان، نگرانی‌ها درباره خطاهای این سامانه‌ها، تولید اطلاعات نادرست، استفاده از داده‌های قدیمی و اتکای بیش از حد کاربران به پاسخ‌های تولیدشده توسط هوش مصنوعی نیز افزایش یافته است.

دیدگاه این نویسنده کانادایی بار دیگر بر این نکته تأکید می‌کند که هرچند مدل‌های هوش مصنوعی می‌توانند در بسیاری از زمینه‌ها ابزارهای مفیدی باشند، اما هنوز جایگزین قضاوت انسانی و بررسی مستقل منابع اطلاعاتی نشده‌اند و استفاده مسئولانه از آن‌ها مستلزم راستی‌آزمایی و ارزیابی دقیق پاسخ‌هاست.