کد خبر: ۴۲۵۴۶۵۵

تاریخ: ۲۷ آذر ۱۴۰۳ - ۰۹:۱۸

دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه:

مراقب چالش‌های اخلاقی هوش مصنوعی باشیم

محمدرضا قاسمی گفت: در حوزه طراحی و معماری اخلاقی هوش مصنوعی باید وارد بسترهای جدی‌تری شویم و اگر نتوانیم خودمان را به قواره طراحی‌های اخلاقی آن نزدیک کنیم چالش‌هایی جدی در نظام حکمرانی کشور به‌وجود خواهد آمد.

به گزارش ایکنا از قم، به نقل از روابط عمومی ستاد راهبری‌ فناوری‌های هوشمند حوزه علمیه، محمدرضا قاسمی، دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه در نشست علمی «ملاحظات اخلاقی در بهره‌گیری از هوش مصنوعی» و آیین افتتاح دبیرخانه علمی اخلاق هوش مصنوعی که روز گذشته، ۲۶ آذرماه در سالن همایش انجمن‌های علمی حوزه علمیه قم برگزار شد، با بیان اینکه دوران هوش مصنوعی کوانتوم و پسااینترنت به مقطعی رسیده که هر روز یک فناوری و محصول جدید معرفی می‌شود، گفت: اگر مواجهه فعالانه‌ای نداشته باشیم درگیر چالش‌ها خواهیم بود و در مقطع پاسخ به پرسش‌های این حوزه خواهیم ماند.

وی با اشاره به اینکه سؤالات متعددی در حوزه اخلاق و مبانی حکمی توسعه فناوری هوش مصنوعی وجود دارد، افزود: حوزه علمیه با توجه به ظرفیت عظیم منابع اسلامی موجود به‌ویژه در حیطه اخلاق می‌تواند پاسخ‌گو باشد و علاوه بر آن پیش‌بینی‌ها و طراحی‌های متناسب با اقتضای عصر هوش مصنوعی را داشته باشد.

حوزه علمیه پیشگام در ترجمه و نقد سند اخلاق هوش مصنوعی

قاسمی با اشاره به انتشار سند اخلاق هوش مصنوعی یونسکو در سال 1400 گفت: حوزه علمیه جزو نهادهایی بود که در ترجمه و نقد این سند پیشگام بود و این اثر را با همکاری دفتر فقه معاصر حوزه به چاپ رساند و در دسترس علاقه‌مندان به موضوع اخلاق هوش مصنوعی قرار داد.

وی نقد حوزه علمیه بر سند یونسکو را نمونه‌ای از مواجهه فعالانه حوزه با فناوری هوش مصنوعی دانست و گفت: این جزو افتخارات حوزه علمیه است که حداقل توانست آنچه که در مسئله اخلاق هوش مصنوعی از دریچه نگاه کشورهای دیگر در سند یونسکو منعکس شده را خیلی سریع فهمید و با توجه به وقت کمی که داشت نقدهایی هم ارائه کند.

دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه گفت: کشورهای جهان در بحث اخلاق هوش مصنوعی نگرانی‌ها و کنش‌گری‌هایی دارند و کشور ما هم به‌صورت جدی با این مسئله مواجه شده و حوزه علمیه در این مواجهه نقش داشته است.

وی افزود: موضوع اخلاق فناوری اطلاعات و اخلاق هوش مصنوعی مباحث بسیار عمیقی داشته و ریشه در مبانی حکمی ما دارد و از سوی دیگر تاثیرات زیادی در عرصه‌های فقهی و حقوقی دارد که متخصصان امر باید در مورد آن گفت‌وگو کنند.

دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه به پیچیده‌تر شدن چالش‌های ایجادشده در حوزه فناوری هوش مصنوعی اشاره کرد: در حال حاضر از رول‌بیس‌ها و آنتولوژی محورهای حوزه هوش مصنوعی عبور کرده‌ایم و به مدل‌های زبانی بزرگ یا ال‌ال‌ام‌ها که خودشان قابلیت یادگیری دارند و چندان لازم نیست تا منطق فهم را به آنها القا کرد رسیده‌ایم. در این شرایط طبیعتا‌ً چالش‌ها و مسایل پیچیده‌تر از قبل می‌شود.

هوش مصنوعی یک دانش منفعل نیست

وی با بیان اینکه اکنون هوش مصنوعی یک بینارشته‌ای بسیار جدی است، گفت: اگر چالش‌های فناوری هوش مصنوعی قبلا در یک سطح خاصی مطرح و به اندازه‌ای به آن توجه می‌شد اما امروز خیلی از متخصصان حوزه‌های دانشی دیگر را نیز درگیر خود کرده است و نمی‌توان از آن به سادگی عبور کرد.

قاسمی با تأکید بر لزوم گفت‌وگو در مسائل بینارشته‌ای‌ گفت: اگر مهندسان هوش مصنوعی تنها بمانند و متخصصین اخلاق در کنار آنها نباشند در لایه‌های مختلف اجتماعی تاثیر منفی می‌گذارد. از سوی دیگر اگر متخصصان اخلاق صرفا به بایدها و نبایدها بپردازند و وارد معماری‌ هوش مصنوعی نشوند و به فضای فنی این حوزه ورود نکنند، قطعاً همیشه منفعل خواهند ماند.

وی اظهار کرد: چه بسا بسیاری از آنچه که به عنوان مسئله اخلاقی در حوزه فناوری اطلاعات و هوش مصنوعی توصیف می‌شود مسایلی واقعی نباشند، یا اگر به‌صورت منظوم و نگرش سیستمی و کلان به آن نگاه شود مسائل دقیق‌تری برداشت شود. بنابراین لزوم گفت‌وگو به شدت احساس می‌شود.

قاسمی افزود: امروز به برکت نگاه کلان مدیریت حوزه علمیه به هوش مصنوعی و همچنین ظرفیت خوب انجمن‌های علمی بخصوص انجمن اخلاق و متخصصان مجموعه‌های مختلف حوزوی، مجال و ظرفیت این گفت‌وگو فراهم شده است.

وی با تأکید بر اینکه اخلاق هوش مصنوعی یک دانش منفعل نیست و می‌تواند منجر به اصلاح توسعه و پیشرفت در عرصه این فناوری شود، گفت: متخصصین حوزه اخلاق حتی در اندیشه غربی چالش‌هایی با سوگیری الگوریتم‌ها دارند و آثار و مقالاتی در این‌باره نوشته‌اند و مباحث بسیار جدی در حوزه اخلاق هوش مصنوعی جریان دارد. آگاهی از این مباحث برای حوزه علمیه بسیار ضروری است.

دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه افزود: به این مناسبت یک کتابخانه حداقلی از مباحث فلسفه و اخلاق هوش مصنوعی از دریچه نگاه اندیشمندان غربی فراهم کرده‌ایم که نیاز است کامل‌تر شود و یک رصد و دیده‌بانی در امر پژوهش‌های اخلاقی و فلسفی هوش مصنوعی در حوزه علمیه صورت بگیرد.

قاسمی به تفاوت نگرش اخلاقی جزئی و تمدنی به فناوری هوش مصنوعی اشاره کرد و گفت: جنس مسائلی که امروز در اخلاق به آن پرداخته می‌شود نگرانی‌ها را از ناحیه نگاه تمدنی بیشتر می‌کند. اکنون نگاه‌ها در حوزه اخلاق هوش مصنوعی بیشتر معطوف به مسائل بخشی و جزئی است و به اخلاق در قواره تمدنی آن پرداخته نشده است.

وی افزود: وقتی فراکسیون هوش مصنوعی در مجلس گذشته مشغول تدوین داده‌ها و اطلاعات ملی به عنوان قانون دوام بود برخی چالش‌های اخلاقی وجود داشت. اکنون که در مجلس جدید برای داده‌های شخصی قانون تدوین می‌شود، چارچوب‌های اخلاقی جدی‌تری در بحث معماری داده‌های شخصی، دسترسی و امنیت آنها و تبادل داده‌ها وجود دارد که می‌طلبد متخصصان ورود کنند.

اهمیت آینده‌پژوهی اخلاق هوش مصنوعی

قاسمی تصریح کرد: اگر حوزه علمیه بخواهد صرفا سرگرم پژوهش‌های بنیادین باشد و به سراغ پژوهش‌های کاربردی و مسائل مورد نیاز نظام نرود طبیعتاً نمی‌تواند در حل چالش‌های موجود اثرگذار باشد.

دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه گفت: در حوزه حکمرانی فضای مجازی هنوز صورت‌بندی مسئله کامل نشده است و در همین موقعیت با مسئله حکمرانی هوش مصنوعی مواجه شده‌ایم که منظر اخلاقی با رویکرد تمدنی و فعالانه از بخش‌های جدی این حکمرانی است.

وی با تأکید بر اهمیت آینده‌پژوهی اخلاق هوش مصنوعی نیز گفت: ما مباحث بسیار جدی داریم که امروز شاید مسئله تلقی نشود اما در آینده نزدیک تبدیل به مسئله خواهد شد. در اینجا باید از تجربه فضای مجازی درس بگیریم. اگر در آن مقطع برخی از چالش‌ها آینده‌پژوهی می‌شدند، شاید امروز می‌توانستیم تدابیر بهتری داشته باشیم.

قاسمی بیان کرد: از مقطعی که یادگیری ماشین در حال تقویت شدن است همیشه از یک پدیده‌ای به نام خودمختاری ماشین صحبت شده و امروز در مورد آن روایت‌های جدی در اندیشه غربی تولید می‌شود. انگیزه این تولید روایت هرچه که باشد می‌گوید آیا اصولاً می‌توانیم ماشین را متناسب با نظام معرفتی خودمان تربیت کنیم یا خیر؟ و اگر می‌توانیم چارچوب آن چیست؟

دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه اظهار کرد: امروز کشور در حال توسعه سامانه‌های بومی در سرویس‌ها و ابزارهای هوش مصنوعی است و به‌زودی خبرهای خوبی در این حیطه خواهیم شنید.

وی با طرح این پرسش که آیا انسان در برابر ماشین است یا در کنار آن، گفت: مهم است که بدانیم به سمت کدام انگاره حرکت خواهیم کرد و متناسب با آن چه آرایشی در نظام حکمرانی کشور گرفته خواهد شد. شاید آن چالش اساسی در حوزه دیپلماسی هوش مصنوعی که خیلی‌ها از آن غفلت می‌کنند استفاده از ظرفیت مبانی فکری و علوم اسلامی انسانی ما برای توسعه نقش‌آفرینی ما در حوزه هوش مصنوعی است.

قاسمی افزود: اتفاقاً معارف دینی که داریم و امکانی که این معارف برای ما ایجاد می‌کند تا بتوانیم هوش مصنوعی مطلوب خود را تولید کنیم، آن جان‌مایه اساسی است که در مواجهه با هوش مصنوعی غربی داریم.

تولید فناوری هوش مصنوعی امری امکان‌پذیر است

دبیر ستاد راهبری فناوری‌های هوشمند حوزه علمیه با تاکید بر اینکه تولید فناوری هوش مصنوعی امری امکان‌پذیر است، گفت: ما این راه را در فناوری‌ هسته‌ای، ریزپرنده‌ها و توان موشکی انجام داده‌ایم و در بستر هوش مصنوعی هم حتماً ممکن خواهد بود.

وی با بیان اینکه چارچوب کلان مسائلی که در حوزه حکمرانی هوش مصنوعی با آن مواجهیم حتما نیاز به معماری اخلاقی دارد، اظهار کرد: معماری‌ ما با مبانی حکمی و اصول اخلاقی خودمان وجه امتیاز ما در حوزه هوش مصنوعی است.

قاسمی با اشاره به اینکه اکنون که در مقطع طراحی هستیم و طرح چنین مباحثی مناسب وضع کشور است، گفت: سند ملی هوش مصنوعی، سازمان ملی هوش مصنوعی و مجموعه زیرساخت‌هایی که برای آن مهیا می‌شود، از حوزه علمیه به عنوان نگهبان دین و نظام اندیشه معرفتی این انتظار را دارد که به مسئله هوش مصنوعی ورود جدی داشته باشد.

وی بیان کرد: مباحث اخلاق هوش مصنوعی در فضای بیرون از حوزه علمیه کار نشده است و اگر کار شده باشد هم قطعاً دریچه نگاهشان با نگاه حوزه نسبت به هوش مصنوعی متفاوت است و یا تلقی دقیقی از نظام معرفتی دین ندارند. این مسئولیت حوزه را سنگین‌تر می‌کند.

قاسمی با بیان اینکه ما آمادگی مواجهه با هوش مصنوعی را نداشتیم و صرفاً تجربیات خیلی مختصری در حوزه فضای مجازی داشتیم، گفت: اکنون هوش مصنوعی با شتاب بسیار حیرت‌انگیزی وارد نظام حکمرانی ما شده که اگر نتوانیم خودمان را به قواره طراحی‌های اخلاقی آن نزدیک کنیم چالش‌هایی جدی در نظام حکمرانی کشور به وجود خواهد آمد.

دبیر ستاد راهبری فناوری‌های هوشمند حوزه علمیه گفت: از آنجا که هوش مصنوعی با الگوی پلتفرمی توسعه پیدا می‌کند اگر بتوانیم در بخشی از این فضا اثرگذار باشیم تاثیر خود را بر سایر بخش‌ها خواهد گذاشت. اگر بتوانیم در معماری کلان مسئله مداخله کنیم حتما می‌توانیم در نوع تکوین این زیست‌بوم و طراحی‌های آینده آن تأثیرگذار باشیم.

وی با ذکر این نکته که نگرش‌های بنیادین به هوش مصنوعی در دنیا از مباحث بسیار جدی است، افزود: به همین مناسبت همایشی که برای سال آینده با عنوان هوش مصنوعی فرهنگ و علوم اسلامی طراحی شده است را بین‌المللی در نظر گرفتیم تا محققان ما هم بتوانند آثار خود را نشان بدهند و هم آثار محققان کشورهای دیگر را ببینند.

قاسمی بیان کرد: ما باید در حوزه طراحی و معماری اخلاقی هوش مصنوعی وارد بسترهای جدی‌تری شویم تا ما را به ایجاد محصول متصل کند. دنیا علاوه بر طراحی‌هایی که در حوزه هوش مصنوعی داشته است در حوزه تولید محصول هوش مصنوعی نیز دستاوردهای زیادی دارد.

باید و نباید در حوزه اخلاقی هوش مصنوعی به تنهایی کافی نیست

وی گفت: تجویز اخلاقی که در بستر بعضی از سرویس‌های هوش مصنوعی در مدل‌های غربی در حال شکل گرفتن است قطعا با مبانی ما در تعارض است و اگر صرفاً به احکام بایدها و نبایدهای اخلاقی بپردازیم مانند حکمرانی فضای مجازی و به مراتب بیشتر نسبت به آن دچار آسیب خواهیم شد.

قاسمی با تأکید بر اینکه باید سطح مداخله و اثرگذاری خود را از سطح پاسخ‌گویی به پرسش‌ها به سمت طراحی و معماری هوش مصنوعی ببریم، گفت: فعالیت کرسی اخلاق هوش مصنوعی می‌تواند به این امر کمک کند.

دبیر ستاد راهبری فناوری‌های هوشمند حوزه علمیه تصریح کرد: نیاز است تا متخصصان اخلاق اسلامی در بسیاری از بسترهای حاکمیتی حضور داشته باشند تا نگاه اسلامی را منتقل کنند.

وی با اشاره به اینکه تاکنون در حوزه هوش مصنوعی در ایران کرسی اخلاق ایجاد نشده است، گفت: این اولین کرسی اخلاق هوش مصنوعی است که در حوزه علمیه شکل می‌گیرد.

قاسمی با تأکید بر توسعه مطالعات اخلاق هوش مصنوعی و طراحی و معماری این حوزه و مداخلات جدی‌تر در سطح حکمرانی هوش مصنوعی از سوی حوزه علمیه گفت: این امر ارتباط حوزه علمیه را با مجامع بین‌الملی تقویت خواهد کرد.