سرویس دین و اندیشه خبرگزاری کتاب ایران (ایبنا)- مسعود تقی‌آبادی: کتاب«اخلاق هوش مصنوعی: اصول، چالش‌ها و فرصت‌ها» از جمله کتابهای در حوزه جدید هوش مصنوعی است که به تازکی توسط نشر کرگدن منتشر شده است و فهم محتوای این کتاب در مواجهه ما با هوش مصنوعی و باید و نبایدهای آن بسیار یاریگر است. کتاب از همان ابتدا نشان می‌دهد که قرار نیست با متنی صرفا هشداردهنده یا صرفا ستایشگر روبه رو باشیم. فلوریدی نه می‌خواهد از هوش مصنوعی چهره ای آخرالزمانی بسازد و نه آن را به عنوان راه حل خودکار همه مسائل انسانی معرفی کند. نقطه عزیمت او این است که انقلاب دیجیتال وارد همه عرصه‌های زندگی شده است و اکنون آموزش، تجارت، صنعت، سفر، تدارکات، بانکداری، خرده فروشی، سرگرمی، رفاه، بهداشت، سیاست و روابط اجتماعی بدون فناوری‌های دیجیتال قابل تصور نیستند. این وضعیت تازه نشانه ورود به دوره‌ای است که در آن بسیاری از کنش‌ها، تصمیم‌ها و فرایندهای اجتماعی با سامانه‌هایی انجام می‌شوند که به صورت خودکار یا نیمه خودکار در جهان مداخله می‌کنند. به همین دلیل فلوریدی از همان گام نخست می‌کوشد محل بحث را درست تعیین کند و به جای آن که درگیر پرسش‌های بی پایان درباره شباهت یا تفاوت هوش مصنوعی با ذهن انسان شود، بر این تمرکز می‌کند که این فناوری چه نوع قدرت اثرگذاری تازه ای پدید آورده است و این قدرت چه پیامدهای اخلاقی و سیاسی دارد.

عاملیت تازه هوش مصنوعی و تغییر محل بحث

بخش نخست با عنوان «شناخت هوش مصنوعی» سه فصل گذشته، حال و آینده را در بر می‌گیرد. این سه گام به خواننده امکان می‌دهد ابتدا با زمینه تاریخی و مفهومی‌پدیده آشنا شود، سپس تعریف محوری نویسنده را بفهمد و در نهایت چشم اندازهای پیش رو را ببیند. در فصل اول که به ظهور هوش مصنوعی اختصاص دارد، بحث از دل انقلاب دیجیتال آغاز می‌شود. فلوریدی توضیح می‌دهد که فناوری‌های دیجیتال ساختارهای مدرنیته را برش می‌زنند، ترکیب می‌کنند و از نو سامان می‌دهند. در این چارچوب، هوش مصنوعی یک مرحله پیشرفته از همان روند است؛ زیرا شکل‌های جدیدی از عاملیت را وارد جهان اجتماعی کرده است.

همین جا کتاب به تز اصلی خود نزدیک می‌شود و در فصل دوم آن را به صراحت بیان می‌کند. فلوریدی می‌گوید هوش مصنوعی را باید شکل تازه ای از عاملیت دانست، نه شکل تازه‌ای از هوش. در بسیاری از بحث‌های عمومی‌و حتی آکادمیک درباره هوش مصنوعی، مسئله اصلی این فرض گرفته می‌شود که آیا ماشین‌ها به سطحی از فهم، آگاهی یا هوش شبیه انسان رسیده‌اند یا نه. فلوریدی این مسیر را چندان راهگشا نمی‌داند. او ترجیح می‌دهد از رویکردی مهندسی استفاده کند و بر رفتار و کارکرد متمرکز شود. در این صورت، هوش مصنوعی سامانه‌ای است که رفتاری از خود نشان می‌دهد که اگر انسانی همان رفتار را انجام می‌داد، آن را نشانه هوشمندی می‌دانستیم. با این تغییر زاویه، مسئله از سنجش شباهت ماشین و انسان به سنجش آثار اجتماعی و اخلاقی سامانه‌ها منتقل می‌شود. این جا دیگر مهم ترین پرسش این است که چگونه در تصمیم‌گیری‌ها مداخله می‌کند، چگونه بر زندگی افراد اثر می‌گذارد و مسئولیت پیامدهای آن بر عهده چه کسانی است.

فلوریدی از این وضعیت با تعبیر جدایی عاملیت از هوش یاد می‌کند. از نظر او یکی از ویژگی‌های بنیادی عصر دیجیتال این است که اکنون با عامل‌هایی روبه رو هستیم که می‌توانند بدون آن که واجد هوش انسانی یا آگاهی انسانی باشند، در جهان دست به کنش بزنند، تصمیم‌ها را شکل دهند، فرایندها را تنظیم کنند و آثار واقعی بر جای بگذارند. این جدایی هم فرصت ایجاد می‌کند و هم خطر. فرصت از آن جهت که می‌توان کارهای پیچیده را با سرعت و مقیاس بی سابقه انجام داد و در حوزه‌هایی مانند سلامت، محیط زیست، آموزش یا برنامه ریزی عمومی‌از این توان بهره گرفت. خطر از آن جهت که اگر این عاملیت بدون جهت گیری هنجاری و بدون سازوکار پاسخگویی گسترش یابد، تبعیض، نابرابری، نقض حریم خصوصی، کاهش خودمختاری و انواع آسیب‌های فردی و اجتماعی را به همراه می‌آورد.

فصل سوم با عنوان «آینده: توسعه قابل پیش‌بینی هوش مصنوعی» این چارچوب مفهومی‌را به قلمروهای عینی تر می‌کشاند. فلوریدی در این جا به موضوعاتی مانند داده‌های تاریخی، داده‌های ترکیبی و داده‌های مصنوعی می‌پردازد و در کنار آن از مدل‌های مولد و آینده طراحی سخن می‌گوید. این فصل نشان می‌دهد که کتاب با تحولات جاری و پرشتاب این حوزه درگیر است. پرداختن به مدل‌های مولد اهمیت ویژه‌ای دارد؛ زیرا این نوع سامانه‌ها در سال‌های اخیر به مهم ترین عرصه مواجهه عمومی ‌با هوش مصنوعی تبدیل شده‌اند و بحث‌های اخلاقی پیرامون آن‌ها از کیفیت داده‌ها و سوگیری گرفته تا مالکیت فکری، اطلاعات نادرست و جابه جایی نقش‌های انسانی را تشدید کرده‌اند.

این نگاه بلافاصله ما را به سطحی سیاسی تر از بحث می‌برد. در سال‌های اخیر با گسترش سامانه‌هایی مانند ChatGPT نگرانی درباره سرعت رشد هوش مصنوعی به شدت افزایش یافته و حتی درخواست‌هایی برای توقف موقت توسعه این سامانه‌ها مطرح شده است. فلوریدی با منطق این درخواست‌ها همدل نیست. او معتقد است ترس از سرعت اغلب نشانه نداشتن جهت‌گیری روشن اجتماعی و سیاسی است. به بیان دیگر، مشکل اصلی این نیست که فناوری بیش از حد سریع پیش می‌رود، بلکه این است که جامعه‌ها هنوز به روشنی تعیین نکرده اند این فناوری باید در خدمت چه اهدافی قرار گیرد، با چه قواعدی مهار شود و چه نهادهایی باید مسئولیت تنظیم و نظارت آن را بر عهده بگیرند. در نتیجه کند کردن فناوری به تنهایی پاسخ نیست. پاسخ واقعی در تصمیم گیری جمعی درباره مقصد و در ساختن چارچوب‌های کافی برای هدایت توسعه نهفته است. این موضع، کتاب را از بسیاری از آثار متعارف حوزه اخلاق هوش مصنوعی متمایز می‌کند؛ زیرا به جای تمرکز صرف بر خطر و هشدار، به سمت صورت بندی برنامه ای برای حکمرانی و طراحی حرکت می‌کند.

پنج اصل اخلاقی و حکمرانی و خیر عمومی

در این بخش فلوریدی وارد مرکز بحث اخلاقی می‌شود و می‌کوشد از میان انبوه اصول و راهنماهایی که در سال‌های اخیر درباره اخلاق هوش مصنوعی تولید شده‌اند، چارچوبی یکپارچه و قابل استفاده فراهم کند. هسته این بخش فصل چهارم است که پنج اصل اخلاقی را صورت‌بندی می‌کند. این اصول عبارتند از خیرخواهی، عدم آسیب‌رسانی، خودمختاری، عدالت و توضیح‌پذیری. خیرخواهی به ارتقای بهزیستی، حفظ کرامت انسانی و پایداری کره زمین مربوط می‌شود. عدم آسیب‌رسانی شامل توجه جدی به حریم خصوصی، امنیت و احتیاط در افزایش توانمندی سامانه‌ها نیز می‌شود. خودمختاری بر این نکته تکیه دارد که انسان‌ها باید امکان «تصمیم گیری برای تصمیم گیری» را حفظ کنند و در برابر سامانه‌هایی که انتخاب‌ها را شکل می‌دهند به موجوداتی منفعل تبدیل نشوند. عدالت به ترویج رفاه، حفظ همبستگی اجتماعی و پرهیز از بی عدالتی نظر دارد. توضیح‌پذیری نیز به عنوان اصلی مطرح می‌شود که امکان فهم پذیری و پاسخگویی را ایجاد می‌کند و از این جهت شرط عملی شدن بسیاری از اصول دیگر است.

فلوریدی با این چارچوب دو کار مهم انجام می‌دهد. نخست این که اخلاق هوش مصنوعی را از فهرست‌های پراکنده اصل‌ها بیرون می‌آورد و آن‌ها را در منظومه‌ای منسجم قرار می‌دهد. دوم این که نشان می‌دهد این اصول باید در طراحی، توسعه، استقرار و نظارت بر سامانه‌ها جاری شوند. فصل‌های بعدی نشان می‌دهند که حتی اگر همه بازیگران در سطح لفظی با اصول اخلاقی موافق باشند، باز هم در غیاب سازوکارهای نهادی، فنی و حقوقی مناسب اجرای آن‌ها تضمین نمی‌شود. به همین دلیل فلوریدی نسبت اخلاق و حقوق را به دقت بررسی می‌کند و به ایده «اخلاق نرم» می‌رسد. مقصود از اخلاق نرم آن است که رعایت قانون پایان مسئولیت اخلاقی نیست. انطباق با مقررات حداقل لازم است، اما برای مواجهه درست با فناوری‌های پرقدرتی مانند هوش مصنوعی کفایت نمی‌کند. ممکن است سامانه‌ای از نظر حقوقی مجاز باشد، اما از نظر آثارش بر عدالت، خودمختاری کاربران یا امنیت داده‌ها محل اشکال جدی باقی بماند. در این جا اخلاق باید پس از انطباق عمل کند و افق مسئولیت را از حداقل‌های قانونی فراتر ببرد.

همین منطق است که کتاب را به حوزه کاربردهای واقعی نزدیک می‌کند. فلوریدی به چالش‌های اخلاقی در فرایند توسعه و استفاده از هوش مصنوعی نیز می‌پردازد و سپس کاربردهای شرورانه را نیز جداگانه بررسی می‌کند. این تفکیک اهمیت دارد؛ زیرا همه مسائل ناشی از خطا یا نارسایی فنی نیستند. گاهی فناوری به قصدی نادرست یا در سازوکاری ناعادلانه به کار گرفته می‌شود و در چنین وضعی مسئله بازنگری در نهادها، اهداف و ترتیبات قدرت است. در کنار این بخش‌ها کتاب به «بهترین رویه‌ها» نیز می‌پردازد و همین نکته آن را به اثری اجرایی تر تبدیل می‌کند.

لوچیانو فلوریدی

یکی از جنبه‌های مهم کتاب آن است که در کنار همه این هشدارها نگاه خود را به افق‌های مثبت هوش مصنوعی نیز حفظ می‌کند. فصل‌های پایانی به هوش مصنوعی برای خیر اجتماعی اختصاص دارند. در این جا نویسنده بر ظرفیت‌های AI برای خدمت به منافع عمومی ‌تاکید می‌کند و در ادامه رابطه آن را با محیط زیست و تغییرات اقلیمی ‌بررسی می‌کند. او از یک سو می‌پذیرد که فناوری دیجیتال و سامانه‌های هوش مصنوعی خود هزینه‌های مادی و انرژی بر دارند و می‌توانند فشارهای محیط زیستی ایجاد کنند و از سوی دیگر نشان می‌دهد که همین فناوری‌ها می‌توانند در مدیریت بهتر منابع، پیش بینی بحران‌ها، کاهش اتلاف و پشتیبانی از سیاست‌های زیست محیطی نقش ایفا کنند. سپس این بحث به امکان همراستا کردن هوش مصنوعی با اهداف توسعه پایدار سازمان ملل گسترش می‌یابد. نکته مهم در این جا آن است که فلوریدی فرصت‌های هوش مصنوعی را بی قید و شرط نمی‌بیند. از نظر او استفاده از این ظرفیت‌ها تنها زمانی موجه است که هزینه‌ها و ریسک‌ها به دقت سنجیده و تا حد امکان کمینه شوند. بنابراین خوش‌بینی او نوعی امید مشروط به طراحی مسئولانه و حکمرانی دقیق است.

نسخه فارسی کتاب نیز با توجه به یادداشت مترجم از این جهت اهمیت دارد که مترجم کوشیده در موارد لازم با پانوشت‌های توضیحی زمینه و اصطلاحات را برای خواننده فارسی زبان روشن تر کند. این نکته در متنی که هم فلسفی است و هم با واژگان تخصصی فناوری و سیاست گذاری سروکار دارد، اهمیت زیادی دارد. مترجم همچنین در یادداشت خود بر این تاکید می‌کند که کتاب علاوه بر طرح مبانی فلسفی اخلاق هوش مصنوعی، سویه سیاست گذارانه روشنی دارد و از این حیث می‌تواند برای مهندسان، مدیران، حقوق دانان و سیاست گذاران نیز سودمند باشد. این ارزیابی دقیق به نظر می‌رسد؛ زیرا در سراسر کتاب اخلاق به صورت دستورکار طراحی، حکمرانی و ارزیابی نهادی عرضه می‌شود.

فضای عمومی ‌بحث درباره هوش مصنوعی در ایران نیز مانند بسیاری از جاهای دیگر گاه میان دو قطب حرکت می‌کند: از یک سو شیفتگی به توانایی‌های ابزارهای تازه و از سوی دیگر نگرانی‌های مبهم و کلی درباره آینده. فلوریدی کمک می‌کند این دوگانه کنار گذاشته شود و پرسش‌ها دقیق‌تر شوند. مسئله اصلی این است که چه نوع سامانه‌هایی قرار است در چه حوزه‌هایی به کار گرفته شوند، چه نهادهایی باید مسئولیت نظارت و پاسخگویی را بر عهده داشته باشند، چگونه می‌توان شفافیت و توضیح پذیری را تضمین کرد و با چه سازوکارهایی باید از نقض عدالت و تضعیف خودمختاری جلوگیری کرد. از این منظر کتاب ابزاری برای صورت بندی پرسش‌های درست در سطح سیاست عمومی‌ است.

در کل «اخلاق هوش مصنوعی: اصول، چالش‌ها و فرصت‌ها» کتابی است که می‌خواهد بحث درباره AI را از سطح ترس و شیفتگی به سطح فهم و تصمیم منتقل کند. نقطه قوت اساسی آن در این است که با تز جدایی عاملیت از هوش صورت مسئله را روشن می‌کند و سپس با چارچوب پنج اصل اخلاقی و با تاکید بر اخلاق نرم، حکمرانی و طراحی مسئولانه راهی برای عمل پیشنهاد می‌دهد. فلوریدی نشان می‌دهد که آینده هوش مصنوعی نه با توقف صرف آن ساخته می‌شود و نه با رها کردن آن به منطق بازار و شتاب فنی. آینده زمانی قابل دفاع خواهد بود که جامعه‌ها درباره مقصد به توافق برسند و بتوانند فناوری را در خدمت بهزیستی، کرامت، عدالت، پایداری و پاسخگویی سازمان دهند. اهمیت این کتاب در همین جابه جایی است: از پرسش این که آیا هوش مصنوعی از ما جلو می‌زند، به پرسش این که ما چگونه می‌خواهیم با این عاملیت تازه زندگی مشترک خود را سازمان دهیم.