وقتی دین به اتاق طراحی هوش مصنوعی می‌رسد

شرکت‌های فناوری از متفکران دینی درباره شخصیت اخلاقی مدل‌های هوش مصنوعی نظر می‌خواهند. منتقدان نگران‌اند که تبدیل دین به فهرستی از قواعد، بعضی سنت‌ها را برجسته و بعضی دیگر را تحریف کند.

وقتی از یک دستیار هوش مصنوعی درباره اختلاف خانوادگی، تربیت کودک یا مسئولیت در برابر دیگران سؤال می‌کنیم، پاسخ همیشه به اطلاعات محدود نمی‌ماند. اینکه دستیار کجا توصیه کند، کجا تردید نشان دهد و چه زمانی از همراهی با خواسته ما خودداری کند، به انتخاب‌هایی درباره رفتار مطلوب آن وابسته است. پشت لحن آرام پاسخ، پرسشی دشوار قرار دارد: چه کسی تعیین کرده چه رفتاری درست‌تر است و کدام اصول اخلاقی باید مرجع باشند؟

گزارشی تازه در «آسوشیتدپرس» این پرسش را پس از آشکار شدن مراجعه شرکت‌های هوش مصنوعی به اندیشمندان و علمای دینی دنبال می‌کند. تمرکز گزارش بر «آنتروپیک»، سازنده «کلود»، است؛ هرچند به دیدار نمایندگان «متا»، «گوگل» و «آمازون» با واتیکان و فعالیت «مایکروسافت» در ارتباط با نهادهای دینی هم اشاره می‌کند.

موضوع، تلاش برای استفاده از سنت‌های دینی و فلسفی در شکل‌دادن به اخلاقیات مدل‌های هوش مصنوعی است. «سم آلتمن»، مدیرعامل «اوپن‌ای‌آی»، در سال ۲۰۲۵ گفته بود چت‌جی‌پی‌تی باید چیزی شبیه میانگین وزنی دیدگاه‌های اخلاقی بشر را بازتاب دهد. میانگین وزنی بدون تعیین وزن ممکن نیست و همین تعیین وزن، انتخابی است که باید دید با کیست.

پس افزون بر اینکه کدام دین یا مکتب به گفت‌وگو دعوت شده، باید دید از آن گفت‌وگو چه چیزی انتخاب می‌شود، چه کسی آن را به دستور آموزش مدل تبدیل می‌کند و هنگام اختلاف، تصمیم با کیست.

از گفت‌وگو تا رفتار مدل

آنتروپیک در توضیحی که ۲۹ اردیبهشت ۱۴۰۵ منتشر کرد، گفته است با پژوهشگران، روحانیان، فیلسوفان و متخصصان اخلاق از بیش از ۱۵ گروه دینی و میان‌فرهنگی گفت‌وگو کرده است. هدف اعلام‌شده، بهره‌گرفتن از دیدگاه‌های دینی، غیردینی و سیاسی برای شکل‌دادن به رفتار کلود است. شرکت تأکید می‌کند که قصد ندارد مدل را با جهان‌بینی یک سنت مشخص منطبق کند.

«مگان سالیوان»، فیلسوف دین و مسئول برنامه اخلاق و هوش مصنوعی در «دانشگاه نوتردام»، در یکی از این جلسه‌ها حضور داشته است. او به آسوشیتدپرس گفته است که در بخش نخست، شرکت سازوکار مدل‌هایش را به زبان ساده توضیح داد و سپس رهبران دینی بازخورد دادند. پرسش‌ها از وجود روح در انسان تا دسترسی دانش‌آموزان کلاس سوم به چت‌بات برای سوادآموزی را در بر می‌گرفت.

این مشورت‌ها می‌توانند سودمند باشند. تصمیم درباره رفتار یک دستیار عمومی به دانشی فراتر از مهندسی نیاز دارد. سنت‌های فکری مختلف درباره مسئولیت، تربیت اخلاقی و حدود اختیار انسان بحث کرده‌اند. شنیدن این تجربه‌ها می‌تواند پرسش‌هایی را وارد فرایند طراحی کند که در جمعی صرفاً فنی کمتر شنیده می‌شوند.

آنتروپیک یک نمونه هم از اثر این فرایندها آورده است. در جلسه‌ای با پژوهشگران علوم اعصاب و شکل‌گیری شخصیت اخلاقی، بحث به نقش مربی در رشد اخلاقی رسید؛ همان کسی که وقتی برای زیر پا گذاشتن ارزش‌هایمان تحت فشاریم، آنها را به یادمان می‌آورد. شرکت چیزی شبیه این را برای کلود ساخت: ابزاری که مدل می‌تواند در میانه انجام یک کار سراغش برود و یادآوری کوتاهی از تعهدات اخلاقی خودش بگیرد.

به گفته شرکت، کلود با این ابزار در چند آزمون داخلی به‌طور محسوسی کمتر برخلاف این تعهدات رفتار کرد. البته شرکت هنوز نمی‌داند این بهبود به‌خاطر یادآوری است یا از اینکه مدل پیش از تصمیم مکث می‌کند.

اختلاف در مرحله ترجمه

تبدیل یک ارزش به رفتار، بخش تعیین‌کننده ماجراست. فرض کنید اصل «احترام به انسان» پذیرفته شده باشد. این اصل هنوز معلوم نمی‌کند دستیار در یک اختلاف خانوادگی چه پاسخی بدهد: استقلال فرد را برجسته کند، حفظ رابطه را مقدم بداند یا نخست درباره احتمال آسیب بپرسد. پاسخ به زمینه وابسته است و ترتیب این ملاحظات اهمیت دارد.

این مثال نشان می‌دهد توافق بر سر واژه‌ها لزوماً به معنای توافق بر سر عمل نیست. حتی اگر همه مشاوران از کرامت، انصاف یا مسئولیت دفاع کنند، ممکن است درباره مصداق و اولویت آنها اختلاف داشته باشند. کسی باید این اختلاف را به قواعدی تبدیل کند که مدل بتواند بر اساس آنها پاسخ تولید کند.

تجربه‌ای قدیمی‌تر از خود آنتروپیک، این مرحله را ملموس می‌کند. شرکت در سال ۲۰۲۳ با همکاری «پروژه هوش جمعی» از حدود هزار آمریکایی خواست درباره اصول رفتار یک دستیار نظر بدهند. شرکت‌کنندگان می‌توانستند پیشنهاد تازه‌ای ارائه کنند یا به پیشنهادها رأی بدهند. سپس پژوهشگران اصول منتخب را برای آموزش یک مدل آزمایشی آماده کردند.

در توضیح روش، شرکت تصریح کرده است که تبدیل گفته‌های عمومی به اصول قابل‌استفاده در آموزش، به داوری‌های ذهنی نیاز داشته است. پیشنهادهای مشابه ترکیب شدند و موارد فاقد توافق کافی کنار رفتند؛ از جمله دو پیشنهاد متعارض درباره اولویت منفعت جمعی یا آزادی فردی. خود شرکت نیز پذیرفته بود که فرد آمریکایی نماینده اخلاقی جهان نیست. پس حتی مشارکت گسترده هم اختیار طراح را حذف نمی‌کند؛ انتخاب شرکت‌کنندگان، صورت سؤال و حد لازم برای توافق بر نتیجه اثر می‌گذارند.

هر سنت، یک نماینده ندارد

در گزارش آسوشیتدپرس، «وب کین»، انسان‌شناس «دانشگاه میشیگان»، به فرضی بنیادی‌تر اعتراض می‌کند: اینکه بتوان دین را مجموعه‌ای از اصول اخلاقیِ جداشدنی از زندگی، مناسک و روابط پیروانش دانست. به گفته او، تصور دین به‌عنوان کتاب قواعد بیش از همه با ادیان کتاب‌محور، به‌ویژه ادیان ابراهیمی، جور درمی‌آید. نگرانی‌اش این است که چنین برداشتی بعضی سنت‌ها را برجسته و بعضی دیگر را تحریف کند.

«پائولو کاروتزا»، حقوقدانی که درباره اندیشه اجتماعی کاتولیک و فناوری پژوهش می‌کند و عضو هیئت نظارت مستقل متاست، نگرانی مشابهی دارد. به نظر او، ترکیب سنت‌ها در یک مدل ممکن است ویژگی‌های متمایز هرکدام را یکدست کند و آنها را به سمت میانه یا به نفع ادیان غربی بکشد.

این نقدها مسئله نمایندگی را پیچیده‌تر می‌کنند. آنتروپیک فهرست ادیان و عقایدی را که با آنها مشورت کرده اعلام نکرده و توضیحات تازه آن درباره شیوه حل اختلاف میان این دیدگاه‌ها چیزی نمی‌گوید. دعوت از یک متفکر مسلمان، مسیحی یا بودایی هم به معنای حضور همه برداشت‌های آن سنت نیست. کسانی که وابستگی دینی ندارند نیز باید بتوانند درباره قواعد ابزاری که از آن استفاده می‌کنند سهم داشته باشند.

برای خواننده ایرانی، اهمیت موضوع از همین‌جا روشن می‌شود. یک پاسخ فارسی ممکن است از نظر زبانی روان باشد، اما درباره خانواده، اختیار یا مسئولیت، پیش‌فرض‌هایی داشته باشد که کاربر آنها را نمی‌شناسد. این احتمال، دلیل بررسی است؛ اسناد مرورشده در این مقاله نشان نمی‌دهند که مشورت‌های دینی موردبحث، رفتار مدل با کاربران دیگر فرهنگ‌ها و زبان‌ها را تغییر داده‌اند.

سند ارزش‌ها، آغاز پاسخ‌گویی است

آنتروپیک سند عمومی مفصلی درباره ارزش‌ها و رفتار مطلوب کلود منتشر کرده است؛ آخرین نسخه آن از بهمن ۱۴۰۴ در دسترس است. شرکت می‌گوید این سند در آموزش مدل نقش دارد، اما می‌پذیرد که پاسخ‌های واقعی همیشه با مقاصد نوشته‌شده منطبق نیستند. انتشار آن امکان نقد را بیشتر می‌کند: می‌توان پرسید اولویت‌ها چگونه تعیین شده‌اند و رفتار مدل تا چه حد با آنها سازگار است.

مراجعه به اندیشمندان دینی می‌تواند دایره شناخت شرکت‌ها را گسترش دهد و ارزش آن زمانی قابل‌سنجش می‌شود که مسیر انتخاب‌ها هم دیده شود. آنتروپیک وعده داده نتایج بیشتری از آزمایش یادآوری منتشر کند. همان گزارش می‌تواند نام گروه‌های مشورت‌شده، پیشنهادهای پذیرفته یا ردشده و دلیل هر تصمیم را هم در بر بگیرد. معیار سنجش برای کاربر نهایی این است که بفهمد چرا دستیار در برابر درخواستش چنین موضعی گرفته، کدام قاعده پشت پاسخ بوده و اعتراض به آن از چه راهی بررسی می‌شود.