به گزارش خبرنگار خبرگزاری حوزه، دکتر محمدرضا قاسمی دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه در نشست علمی «ملاحظات اخلاقی در بهره‌گیری از هوش مصنوعی» و آیین افتتاح دبیرخانه علمی اخلاق هوش مصنوعی در سالن همایش انجمن های علمی حوزه علمیه قم با بیان اینکه دوران هوش مصنوعی کوانتوم و پسااینترنت به مقطعی رسیده که هر روز یک فناوری و محصول جدید معرفی می‌شود، گفت: اگر مواجهه فعالانه‌ای نداشته باشیم درگیر چالش‌ها خواهیم بود و در مقطع پاسخ به پرسش‌های این حوزه خواهیم ماند.
وی با اشاره به اینکه سوالات متعددی در حوزه اخلاق و مبانی حکمی توسعه فناوری هوش مصنوعی وجود دارد، گفت: حوزه علمیه با توجه به ظرفیت عظیم منابع اسلامی موجود بویژه در حیطه اخلاق می‌تواند پاسخ‌گو باشد و علاوه بر آن پیش‌بینی‌ها و طراحی‌های متناسب با اقتضای عصر هوش مصنوعی را داشته باشد.
قاسمی با اشاره به انتشار سند اخلاق هوش مصنوعی یونسکو در سال ۱۴۰۰ گفت: حوزه علمیه جزو نهادهایی بود که در ترجمه و نقد این سند پیشگام بود و این اثر را با همکاری دفتر فقه معاصر حوزه به چاپ رساند و در دسترس علاقمندان به موضوع اخلاق هوش مصنوعی قرار داد.
وی نقد حوزه علمیه بر سند یونسکو را نمونه‌ای از مواجهه فعالانه حوزه با فناوری هوش مصنوعی دانست و گفت: این جزو افتخارات حوزه علمیه است که حداقل توانست آنچه که در مسئله اخلاق هوش مصنوعی از دریچه نگاه کشورهای دیگر در سند یونسکو منعکس شده را خیلی سریع فهمید و با توجه به وقت کمی که داشت نقدهایی هم ارائه کند.
دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه گفت: کشورهای جهان در بحث اخلاق هوش مصنوعی نگرانی‌ها و کنش‌گری‌هایی دارند و کشور ما هم به صورت جدی با این مسئله مواجه شده و حوزه علمیه در این مواجهه نقش داشته است.
وی افزود: موضوع اخلاق فناوری اطلاعات و اخلاق هوش مصنوعی مباحث بسیار عمیقی داشته و ریشه در مبانی حکمی ما دارد و از سوی دیگر تاثیرات زیادی در عرصه‌های فقهی و حقوقی دارد که متخصصین امر باید در مورد آن گفتگو کنند.
دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه به پیچیده‌تر شدن چالش‌های ایجادشده در حوزه فناوری هوش مصنوعی اشاره کرد: در حال حاضر از رول‌بیس‌ها و آنتولوژی محورهای حوزه هوش مصنوعی عبور کرده‌ایم و به مدل‌های زبانی بزرگ یا ال‌ال‌ام‌ها که خودشان قابلیت یادگیری دارند و چندان لازم نیست تا منطق فهم را به آنها القا کرد رسیده‌ایم. در این شرایط طبیعتا چالش‌ها و مسایل پیچیده‌تر از قبل می‌شود.
وی با بیان اینکه اکنون هوش مصنوعی یک بینارشته‌ای بسیار جدی است، گفت: اگر چالش‌های فناوری هوش مصنوعی قبلا در یک سطح خاصی مطرح و به اندازه‌ای به آن توجه می‌شد اما امروز خیلی از متخصصین حوزه‌های دانشی دیگر را نیز درگیر خود کرده است و نمی‌توان از آن به سادگی عبور کرد.
قاسمی با تاکید بر لزوم گفتگو در مسایل بینارشته‌ای گفت: اگر مهندسین هوش مصنوعی تنها بمانند و متخصصین اخلاق در کنار آنها نباشند در لایه‌های مختلف اجتماعی تاثیر منفی می‌گذارد. از سوی دیگر اگر متخصصین اخلاق صرفا به بایدها و نبایدها بپردازند و وارد معماری هوش مصنوعی نشوند و به فضای فنی این حوزه ورود نکنند، قطعا همیشه منفعل خواهند ماند.
وی تاکید کرد: چه بسا بسیاری از آنچه که به عنوان مسئله اخلاقی در حوزه فناوری اطلاعات و هوش مصنوعی توصیف می‌شود مسایلی واقعی نباشند و یا اگر به صورت منظوم و نگرش سیستمی و کلان به آن نگاه شود مسایل دقیق‌تری برداشت شود. بنابراین لزوم گفتگو به شدت احساس می‌شود.
قاسمی افزود: امروز به برکت نگاه کلان مدیریت حوزه علمیه به هوش مصنوعی و همچنین ظرفیت خوب انجمن‌های علمی بخصوص انجمن اخلاق و متخصصین مجموعه‌های مختلف حوزوی، مجال و ظرفیت این گفتگو فراهم شده است.
وی با تاکید بر اینکه اخلاق هوش مصنوعی یک دانش منفعل نیست و می‌تواند منجر به اصلاح توسعه و پیشرفت در عرصه این فناوری شود، گفت: متخصصین حوزه اخلاق حتی در اندیشه غربی چالش‌هایی با سوگیری الگوریتم‌ها دارند و آثار و مقالاتی در این‌باره نوشته‌اند و مباحث بسیار جدی در حوزه اخلاق هوش مصنوعی جریان دارد. آگاهی از این مباحث برای حوزه علمیه بسیار ضروری است.
دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه افزود: به این مناسبت یک کتابخانه حداقلی از مباحث فلسفه و اخلاق هوش مصنوعی از دریچه نگاه اندیشمندان غربی فراهم کرده‌ایم که نیاز است کامل‌تر شود و یک رصد و دیده‌بانی در امر پژوهش‌های اخلاقی و فلسفیِ هوش مصنوعی در حوزه علمیه صورت بگیرد.
قاسمی به تفاوت نگرش اخلاقی جزئی و تمدنی به فناوری هوش مصنوعی اشاره کرد و گفت: جنس مسائلی که امروز در اخلاق به آن پرداخته می‌شود نگرانی‌ها را از ناحیه نگاه تمدنی بیشتر می‌کند. اکنون نگاه‌ها در حوزه اخلاق هوش مصنوعی بیشتر معطوف به مسائل بخشی و جزئی است و به اخلاق در قواره تمدنی آن پرداخته نشده است.
وی افزود: وقتی فراکسیون هوش مصنوعی در مجلس گذشته مشغول تدوین داده‌ها و اطلاعات ملی به عنوان قانون دوام بود برخی چالش‌های اخلاقی وجود داشت. اکنون که در مجلس جدید برای داده‌های شخصی قانون تدوین می‌شود، چارچوب‌های اخلاقی جدی‌تری در بحث معماری داده‌های شخصی، دسترسی و امنیت آنها و تبادل داده‌ها وجود دارد که می‌طلبد متخصصین ورود کنند.
قاسمی خاطرنشان کرد: اگر حوزه علمیه بخواهد صرفا سرگرم پژوهش‌های بنیادین باشد و به سراغ پژوهش‌های کاربردی و مسائل مورد نیاز نظام نرود طبیعتا نمی‌تواند در حل چالش‌های موجود اثرگذار باشد.
دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه گفت: در حوزه حکمرانی فضای مجازی هنوز صورت‌بندی مسئله کامل نشده است و در همین موقعیت با مسئله حکمرانی هوش مصنوعی مواجه شده‌ایم که منظر اخلاقی با رویکرد تمدنی و فعالانه از بخش‌های جدی این حکمرانی است.
وی با تاکید بر اهمیت آینده‌پژوهی اخلاق هوش مصنوعی نیز گفت: ما مباحث بسیار جدی داریم که امروز شاید مسئله تلقی نشود اما در آینده نزدیک تبدیل به مسئله خواهد شد. در اینجا باید از تجربه فضای مجازی درس بگیریم. اگر در آن مقطع برخی از چالش‌ها آینده‌پژوهی می‌شدند، شاید امروز می‌توانستیم تدابیر بهتری داشته باشیم.
قاسمی گفت: از مقطعی که یادگیری ماشین در حال تقویت شدن است همیشه از یک پدیده‌ای به نام خودمختاری ماشین صحبت شده و امروز در مورد آن روایت‌های جدی در اندیشه غربی تولید می‌شود. انگیزه این تولید روایت هرچه که باشد می‌گوید آیا اصولا می‌توانیم ماشین را متناسب با نظام معرفتی خودمان تربیت کنیم یا خیر؟ و اگر می‌توانیم چارچوب آن چیست؟.
دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه عنوان کرد: امروز کشور در حال توسعه سامانه‌های بومی در سرویس‌ها و ابزارهای هوش مصنوعی است و به زودی خبرهای خوبی در این حیطه خواهیم شنید.
وی با طرح این پرسش که آیا انسان در برابر ماشین است و یا در کنار آن، گفت: مهم است که بدانیم به سمت کدام انگاره حرکت خواهیم کرد و متناسب با آن چه آرایشی در نظام حکمرانی کشور گرفته خواهد شد.
قاسمی گفت: شاید آن چالش اساسی در حوزه دیپلماسی هوش مصنوعی که خیلی‌ها از آن غفلت می‌کنند استفاده از ظرفیت مبانی فکری و علوم اسلامی انسانی ما برای توسعه نقش‌آفرینی ما در حوزه هوش مصنوعی است.
وی در تکمیل مطلب فوق افزود: اتفاقا معارف دینی که داریم و امکانی که این معارف برای ما ایجاد می‌کند تا بتوانیم هوش مصنوعی مطلوب خود را تولید کنیم، آن جان‌مایه اساسی است که در مواجهه با هوش مصنوعی غربی داریم.
دبیر ستاد راهبری فناوری‌های هوشمند حوزه علمیه با تاکید بر اینکه تولید فناوری هوش مصنوعی امری امکان‌پذیر است، گفت: ما این راه را در فناوری هسته‌ای، ریزپرنده‌ها و توان موشکی انجام داده‌ایم و در بستر هوش مصنوعی هم حتما ممکن خواهد بود.
وی با بیان اینکه چارچوب کلان مسائلی که در حوزه حکمرانی هوش مصنوعی با آن مواجهیم حتما نیاز به معماری اخلاقی دارد، گفت: معماری ما با مبانی حکمی و اصول اخلاقی خودمان وجه امتیاز ما در حوزه هوش مصنوعی است.
قاسمی با اشاره به اینکه اکنون که در مقطع طراحی هستیم طرح چنین مباحثی ممناسب وضع کشور است، گفت: سند ملی هوش مصنوعی، سازمان ملی هوش مصنوعی و مجموعه زیرساخت‌هایی که برای آن مهیا می‌شود، از حوزه علمیه به عنوان نگهبان دین و نظام اندیشه معرفتی این انتظار را دارد که به مسئله هوش مصنوعی ورود جدی داشته باشد.
وی خاطرنشان کرد: مباحث اخلاق هوش مصنوعی در فضای بیرون از حوزه علمیه کار نشده است و اگر کار شده باشد هم قطعا دریچه نگاهشان با نگاه حوزه نسبت به هوش مصنوعی متفاوت است و یا تلقی دقیقی از نظام معرفتی دین ندارند. این مسئولیت حوزه را سنگین‌تر می‌کند.
قاسمی با بیان اینکه ما آمادگی مواجهه با هوش مصنوعی را نداشتیم و صرفا تجربیات خیلی مختصری در حوزه فضای مجازی داشتیم، گفت: اکنون هوش مصنوعی با شتاب بسیار حیرت‌انگیزی وارد نظام حکمرانی ما شده که اگر نتوانیم خودمان را به قواره طراحی‌های اخلاقی آن نزدیک کنیم چالش‌هایی جدی در نظام حکمرانی کشور به وجود خواهد آمد.
دبیر ستاد راهبری فناوری‌های هوشمند حوزه علمیه گفت: از آنجا که هوش مصنوعی با الگوی پلتفرمی توسعه پیدا می‌کند اگر بتوانیم در بخشی از این فضا اثرگذار باشیم تاثیر خود را بر سایر بخش‌ها خواهد گذاشت. اگر بتوانیم در معماری کلان مسئله مداخله کنیم حتما می‌توانیم در نوع تکوین این زیست‌بوم و طراحی‌های آینده آن تاثیرگذار باشیم.
وی با ذکر این نکته که نگرش‌های بنیادین به هوش مصنوعی در دنیا از مباحث بسیار جدی است، گفت: به همین مناسبت همایشی که برای سال آینده با عنوان هوش مصنوعی فرهنگ و علوم اسلامی طراحی شده است را بین‌المللی در نظر گرفتیم تا محققین ما هم بتوانند آثار خود را نشان بدهند و هم آثار محققین کشورهای دیگر را ببینند.
قاسمی خاطرنشان کرد: ما باید در حوزه طراحی و معماری اخلاقی هوش مصنوعی وارد بسترهای جدی‌تری شویم تا ما را به ایجاد محصول متصل کند. دنیا علاوه بر طراحی‌هایی که در حوزه هوش مصنوعی داشته است در حوزه تولید محصول هوش مصنوعی نیز دستاوردهای زیادی دارد.
وی گفت: تجویز اخلاقی که در بستر بعضی از سرویس‌های هوش مصنوعی در مدل‌های غربی در حال شکل گرفتن است قطعا با مبانی ما در تعارض است و اگر صرفا به احکام بایدها و نبایدهای اخلاقی بپردازیم مانند حکمرانی فضای مجازی و به مراتب بیشتر نسبت به آن دچار آسیب خواهیم شد.
قاسمی با تاکید بر اینکه باید سطح مداخله و اثرگذاری خود را از سطح پاسخ‌گویی به پرسش‌ها به سمت طراحی و معماری هوش مصنوعی ببریم، گفت: فعالیت کرسی اخلاق هوش مصنوعی می‌تواند به این امر کمک کند.
دبیر ستاد راهبری فناوری‌های هوشمند حوزه علمیه تصریح کرد: نیاز است تا متخصصین اخلاق اسلامی در بسیاری از بسترهای حاکمیتی حضور داشته باشند تا نگاه اسلامی را منتقل کنند.
وی با اشاره به اینکه تاکنون در حوزه هوش مصنوعی در ایران کرسی اخلاق ایجاد نشده است، گفت: این اولین کرسی اخلاق هوش مصنوعی است که در حوزه علمیه شکل می‌گیرد.
قاسمی با تاکید بر توسعه مطالعات اخلاق هوش مصنوعی و طراحی و معماری این حوزه و مداخلات جدی‌تر در سطح حکمرانی هوش مصنوعی از سوی حوزه علمیه گفت: این امر ارتباط حوزه علمیه را با مجامع بین‌الملی تقویت خواهد کرد.
انتهای پیام
