به گزارش خبرگزاری حوزه، برنامه فقه پویای رادیو معارف در ۹ جلسه به بررسی فقهی و حقوقی ابعاد گوناگون هوش مصنوعی پرداخته که رسانه رسمی حوزه به انتشار محتوای این برنامه‌ها در شماره های گوناگون پرداخته و در این مطلب به انتشار جلسه سوم خواهیم پرداخت.
مجری: بسم الله الرحمن الرحیم. عرض سلام و ادب دارم.
در خدمت میهمان برنامه جناب حجج اسلام والمسلمین آقای سید امیر سخاوتیان و آقای عندلیب هستیم؛ خدمت شما سلام عرض می‌کنم، خوش آمدید.
توجه داشته باشید که ما در برنامه‌ی گذشته پیرامون شخصیت حقوقی و قابل اعطای به سیستم‌های هوش مصنوعی صحبت کردیم و این‌که چه میزان از این شخصیت را می‌توانیم به هوش مصنوعی اعطاء کنیم؟ از نظر فقهی و حقوقی بررسی کردیم و گفتیم با توجه به این‌که نگاه ما به هوش مصنوعی متفاوت است، اعطای شخصیت به هوش مصنوعی هم متفاوت خواهد بود.
در این برنامه می‌خواهیم پیرامون موضوع جرایم عمد هوش مصنوعی صحبت کنیم. صحبتم را با آقای دکتر عندلیب شروع می‌کنم. جناب آقای دکتر، از نظر حقوقی جرایم عمد چیست؟ چه چیزهایی هستند که به آن‌ها جرایم عمد می‌گوییم؟
- آقای عندلیب
ما برای این‌که جرم عمدی را از منظر قانون‌گذار ایران متوجه شویم باید به ماده‌ی ۲۹۰ قانون مجازات اسلامی مراجعه کنیم. قانون‌گذار جنایاتی که در این قانون و در این ماده‌ی ۲۹۰ قانون برمی‌شمرد می‌گوید که این جنایات، جنایات عمدی است. یکی این‌که مرتکب با انجام کاری که قصد جنایت بر فرد یا افراد معین یا بر فرد یا افراد غیرمعینی را داشته باشد و در عمل هم آن جنایتی که در قصد داشته اتفاق بیافتد و واقع شود. حالا ابزاری که برای این جنایت دارد و کاری که انجام می‌دهد، اصطلاحاً رفتار مادی جرم می‌خواهد نوعاً کشنده باشد یا نباشد، مهم آن قصدش است که قصد جنایت داشته باشد.
دوم می‌گوید که مرتکب عمداً کاری انجام دهد که موجب جنایت می‌شود که اصطلاحاً می‌گویند نوعاً کشنده باشد و یا نوعاً سبب جنایت شود، هر چند که قصد جنایت نداشته باشد. این فرد در یک درگیری عصبانی می‌شود و با یک بیل به جمجمه‌ی طرف مقابل می‌زند. خب این نوعاً کشنده است، ولو این‌که قصد جنایت نداشته باشد، فعل او نوعاً کشنده است.
در قسمت سوم می‌گوید هر گاه مرتکب قصد ارتکاب جنایت واقع شده یا نظایر آن را نداشته باشد، این کار هم نوعاً کشنده نباشد، پس چه می‌شود؟ نسبت به این فرد به خاطر ضعف، پیری یا بیماری کشنده حساب شود. یک کسی که ناراحتی قلبی دارد، او را با یک حرکت نابه‌هنگام یک‌دفعه بترسانیم، به او شوک وارد شود و ایست قلبی کند، نسبت به این فرد نوعاً کشنده است، ولی نسبت به افراد دیگر کشنده نیست.
می‌گوید هر گاه مرتکب قصد ایراد جنایت واقع شده یا نظایر آن را داشته باشد، بدون آن‌که فرد معینی مقصود وی باشد و در عمل هم جنایت و یا نظیر آن واقع شود، مثل بمب‌گذاری در اماکن عمومی که فرد نمی‌داند چند نفر ممکن است کشته شوند، شاید هم هیچ‌کسی کشته نشود، یعنی سریعاً نیروهای امنیتی صحنه را مدیریت کنند و همه را از صحنه خالی کنند ولی این کاری که انجام می‌دهد مبتنی بر عنصر عمد خواهد بود. حالا یک تبصره‌هایی هم دارد که بعداً عرض می‌کنم.
مجری: متشکرم. جناب آقای دکتر سخاوتیان، جرایم عمد از نظر فقه اسلامی به چه چیزهایی گفته می‌شود؟
- آقای سخاوتیان
وقتی به آثار فقهی نگاه می‌کنیم، جرایم عمدی که گفته می‌شود نوعی فعل است، در حقیقت باید بگوییم افعال عمد به چه چیزهایی گفته می‌شود؟ وقتی فعل عمدی را شناختیم، آنچه که برخلاف هنجارها و نظام فقهی و حقوقی باشد خودبه‌خود سر از جرم درمی‌آورد. وقتی ما صحبت از عمد می‌کنیم و می‌گوییم فعلی عمداً رخ داد، در آن قصدیت شرط است، یعنی شخص قصد می‌کند که این کار را انجام دهد و انجام می‌دهد. وقتی که ما قصدیت را مطرح می‌کنیم، در آن اراده و اختیار شرط است. یعنی اگر شخص اراده و یا اختیار نداشته باشد، نمی‌توانیم به آن فعل، فعل عمدی بگوییم. نقطه‌ی مقابل اختیار چه می‌شود؟ چند حالت دارد، گاهی اوقات جبری است، گاهی اوقات اضطراری است، گاهی اوقات اکراهی است. هیچ‌کدام از این‌ها در فضای عمد نمی‌گنجد، یعنی ما نمی‌توانیم فعل شخص را به افعال عمدی متصف کنیم، حتی در بعضی از حالت‌هایش ممکن است یک کار عمدی اتفاق بیافتد و از روی اکراه باشد، ولی اتصاف عمد به آن صورت نمی‌گیرد. وقتی ما این فضا را در نظر می‌گیریم، افعالی که ما به آن‌ها عمد می‌گوییم، شخص در داخل آن با اختیار و اراده‌ی خودش کاری را انجام می‌دهد. جرایم عمدی هم از این سنخ هستند. شخصی که دست به جرم می‌زند و جرم عمدی تلقی می‌شود، یعنی با قصد و اختیار خودش دست به این فعل زده است، در نتیجه باید عواقب و مجازات‌های مربوط به آن حالت عمدی خودش را هم بپذیرد. در مسئله‌ی هوش مصنوعی هم باید به این مطلب دقت کنیم و ببینیم که آیا مسئله‌ی عمد و اراده و اختیار در هوش مصنوعی هم تحقق پیدا می‌کند یا نه؟
مثالی می‌زنم. فرض کنید یک نفری مربی کودک است و داشت کودکی را در مهد کودک می‌خواباند و در حین خواباندن این کودک، خودش هم خوابید و بعد هم روی سر این کودک افتاد و کودک فوت شد. حالا سؤال این است که در اینجا این مربی عمداً باعث خوابیدن خودش و مرگ این کودک شد یا سهواً این کار را کرد؟ اگر ما برای آن اختیار قائل شویم و بگوییم که با اختیار خودش این اتفاق افتاد، عمدی می‌شود که با اراده و اختیار خودش است. در حالی که همه‌ی ما هم می‌دانیم که خیلی آدم مرتب و منظمی بود و داشت بچه‌ی ۶-۷ ماهه را می‌خواباند و خودش اتفاقی خوابید. این خوابیدن و افتادن او روی بچه به خاطر اراده و اختیار خودش نبود و یک کار بی‌اختیار بود. در اینجا دیگر نمی‌گوییم که این جرم، جرم عمدی است. چون غیرارادی بوده است.
مثال‌های زیادی داریم، مثلاً یک کسی فوت شد و یک کسی در خواب او را می‌بیند و می‌گوید که من قاتل او هستم. در خواب صحبت کرده است و اصلاً صحبت او ارادی نیست و نمی‌توانیم به آن استناد دهیم.
همین مطلب در فضای حقوقی هم پررنگ است. شما به یک نفر دارویی تزریق کرده‌اید که از او اقرار بگیرید. این دارو آن شخص را از اراده خارج کرده و به برخی از مسائل اقرار می‌کند. هیچ‌کدام از این مسائل در دادگاه اعتبار ندارد. چرا؟ چون با اراده و اختیار خودش نبود، از اختیار و اراده خارج شده بود، به یک مجموعه چیزها، جرایم و یا اتفاقات اقرار کرد و جمله‌ای که دادگاه می‌گوید این است که؛ چون با اختیار و اراده‌ی خودش نبود، تحت فشار بود، پس این اقرار باطل است و به آن استناد نمی‌دهد.
پس در مباحث عمد دو مؤلفه‌ی خیلی مهم اراده و اختیار داریم که حاصل آن قصدیت می‌شود که شخص قصد یک فعلی را می‌کند.
مجری: متشکرم. جناب آقای دکتر عندلیب، با توجه به تعریفاتی که درباره‌ی جرایم عمد در حقوق مدنی بیان نمودید، آیا می‌توان به هوش مصنوعی جرایم عمد را منتسب کرد یا خیر؟
- آقای عندلیب
قبل از این‌که به این سؤال پاسخ دهم، یک نکته‌ای را توضیح می‌دهم. در مباحث حقوق جزا یک مقدار مباحث با آن چیزی که آقای دکتر سخاوتیان بیان کردند متفاوت است.
ببینید ما در تعریف عمد و یا جنایات عمدی با توجه به ماده‌ی ۲۹۰ لزوماً قصد فعل را لازم نداریم، بلکه اگر رفتار نوعاً کشنده باشد، ولو این‌که قصد قتل و جنایت هم نداشته باشد، مثال زدم؛ این فرد عصبانی است، قصد کشتن او را ندارد، عصبانی شده و با بیل به گیجگاه این فرد زد. اینجا آن قصد را ندارد... . ببینید ما باید دقت داشته باشیم که در عالم حقوق ما در مباحث کیفری این قصد را به سوءنیت عام و سوءنیت خاص تقسیم می‌کنیم. سوءنیت عام همان است که این فرد اراده داشته باشد، قصد جنایت داشته باشد. سوءنیت خاص هم مقید به نتیجه است. در جرایمی که مقید به نتیجه است. یعنی تا زمانی که این فرد کشته نشود، قتل صادق نیست. در جرایم مقید به نتیجه باید آن نتیجه محقق شده باشد، مثلاً در کلاه‌برداری می‌گوییم تا زمانی که تحصیل مال اتفاق نیافتاده باشد، شروع به کلاه‌برداری می‌شود، در جرم سرقت می‌گوییم تا زمانی که مال از تحت ید فرد مالک خارج نشود، شروع سرقت می‌شود و سرقت تام نیست. جرم و مجازات این هم متفاوت از سرقت تام یا کلاه‌برداری تام است.
در اینجا هم این قصدی که آقای دکتر سخاوتیان می‌گویند یعنی فرد با اراده و اختیار در شرایط روانی اصطلاحاً مختار باشد، بله، ما هم این را قبول داریم که مختار باشد، ولی این‌که قصد انجام جنایت داشته باشد، نه، لزوماً قصد انجام جنایت لازم نیست. اگر آن فعل و رفتار نوعاً کشنده باشد ولو این‌که نه نوعاً نسبت به همه‌ی افراد باشد. در آن قسمت بند پ ماده‌ی ۲۹۰ می‌گوید: نسبت به این فرد، به خاطر شرایط خاص که دارد، چون بیماری قلبی دارد. این بیچاره قصد قتل و جنایت ندارد و اصلاً مراد و مختارش هم این نیست، به تعبیر فقهی «ما قُصد لم یقع و ما وقع لم یقصد» و لکن قانون‌گذار ما این را جنایت عمدی می‌داند. پس این تفاوت وجود دارد.
- آقای سخاوتیان
مراد بحث این بخش نبود، بحث این است که فعل از افعال اختیاری باشد. نکته‌ی ما اینجا بود، آن نکته‌ای که شما گفتید نبود. ما وارد بحث جرایم نشدیم.
- آقای عندلیب
بله، فعل باید از افعال اختیاری باشد، ولی حتماً و لزوماً قصد جنایت لازم نیست.
- آقای سخاوتیان
ما وارد بحث جرایم نشدیم، نکته اینجا بود که گفتیم فعل از افعال اختیاری باشد. مثلاً شخصی بیل را گرفته و می‌خواهد بزند، قصد کشتن ندارد ولی به‌هرحال این زدن فعل اختیاری خودش است. نکته‌ی بحث بنده اینجا بود. به آن بحثی که شما گفتید وارد نشدم.
- آقای عندلیب
من گفتم شاید در ذهن شنونده‌ی ما این موضوع ایجاد شود که... .
- آقای سخاوتیان
پس دقیقش می‌کنیم؛ فعل از افعال اختیاری و با اراده‌ی شخص باشد.
- آقای عندلیب
بله، ولو این‌که فرد قصد جنایت نداشته باشد.
- آقای سخاوتیان
اما اگر نوعاً به جنایت ختم می‌شود، باز هم مجرم است.
- آقای عندلیب
بله، باز هم جزء جرایم عمدی است.
مجری: پس نگاه شما نگاه فعلی است و آقای دکتر نگاه فاعلی را مدنظر قرار داده‌اند.
الان با توضیحی که آقای دکتر سخاوتیان بیان کردند به یک توافق رسیدیم و این هم برای تنویر ذهن مخاطب محترم است که حتماً نباید قصد جنایت را داشته باشد، رفتار نوعاً کشنده ولو نوعاً نسبت به شرایط خاص مجنیٌ علیه کفایت می‌کند برای این‌که ما آن را فعل عمدی بدانیم.
در پاسخ به سؤال جنابعالی از نظر قصد که اینجا در ماده‌ی ۲۹۰ بیان کرده بود، ولی من می‌خواهم با توجه به سیستم‌های مبتنی بر هوش مصنوعی یک بار دیگر بازخوانی کنیم. ببینید زمانی خسارت عمدی که می‌خواهد انجام شود، فرمان دهنده و آن کسی که این سیستم هوشمند مبتنی بر هوش مصنوعی را تعبیه کرده است، قصد دارد از طریق این ربات بی‌تقصیرش یک خسارتی را وارد کند ولی خود ربات سرپیچی می‌کند و یک خسارت دیگری را انجام می‌دهد، مثلاً این ربات تعریف شده که این دیوار را خراب کند، ۱۰ تا دیوار دیگر را خراب می‌کند، همان «ما قصد لم یقع و ما وقع لم یقصد»، یعنی آن سازنده، آن مهندس و آن شرکت قصد کرده بود که این ربات دیوار A را خراب کند، ولی دیوار B, C , D را خراب کند.
شنونده‌ی مباحث ما به این نکته دقت کند که ما وقتی حرف خسارت را می‌زنیم، ذهنش به سمت مسئولیت مدنی نرود، چون ما خسارت عمدی را تحت تعریف تخریب عمدی و جرم می‌دانیم. خواننده‌ی این مباحث در فضای مجازی و شنونده‌ی رادیو معارف دچار این اشتباه نشود که چرا وقتی خسارت می‌گویید، بحث کیفری می‌کنید؟ بله، اگر خسارت عمدی باشد، تخریب عمدی می‌شود و موضوع ما در اینجا تخریب عمدی است.
اگر این تخریب عمدی که فرمان‌دهنده از طریق یک ربات آسیب‌رسان وارد می‌کند، یعنی به دنبال این است که یک تخریب و خسارت عمدی را ایجاد کند و خود آن شرکت هم دقیقاً آن «ما قصد وقعَ»، همان چیزی که قصد کرده، اتفاق هم می‌افتد. این یک نوع است.
یک نوع هم این است که خسارت عمدی که یک ربات برخلاف میل اصطلاحاً ارباب بی‌گناهش انجام می‌دهد، یعنی اصلاً آن ارباب و سازنده در ذهن و مخیله‌اش هم اساساً به دنبال تخریب نیست، خود ربات دچار یک نقص سیستمی و دچار یک اشکال دستوری می‌شود و به سمت تخریب عمدی می‌رود.
این‌ها سه صورت است که در صورت اول نمی‌توانیم مجازات را به شخصیت حقیقی و یا حقوقی فرمان‌دهنده‌اش منتسب کنیم که یا یک شرکت است و یا یک مهندس و سازنده‌ای است. چرا؟ چون «ما قصد لم یقع و ما وقع لم یقصد»، ارتباط بین مباشر و سبب قطع می‌شود و باید خود مباشر را مقصر بدانیم که گفتم بیمه‌ها در اینجا می‌توانند جایگزین و جبران کننده‌ی خسارت باشند. دومی که خسارتی است که خود آن فرمان‌دهنده از طریق ربات انجام می‌دهد و ربات هم هیچ تحلیلی ندارد. اینجا دقیقاً عمد منتسب به سبب است و سبب أقوی از مباشر است که همان سازنده است.
مجری: یعنی حتی اگر قصدش را هم نداشته باشد و به دنبال تخریب نبوده باشد.
در این دومی شرکت قصد تخریب را دارد و دقیقاً هم همان اتفاق می‌افتد، یعنی «ما قصد وقع»، هیچ مشکلی هم برنمی‌خورد، در اینجا آن ربات هیچ تقصیری ندارد و آن سازنده و شرکت مقصر است و عنصر عمد به آن ملحق می‌شود و سبب در اینجا أقوی از مباشر می‌شود.
مرحله‌ی سوم که خسارت عمدی یا همان تخریب عمدی را ربات انجام می‌دهد و اصلاً سازنده‌ی آن قصد تخریب ندارد. یعنی در اینجا فقط خود ربات است که مقصر است. حالا باید برای این ربات چه مجازاتی در نظر بگیریم؟ چه مسئولیتی در نظر بگیریم؟ این یک بحث دیگری است که عرض کردم مبتنی بر بحث قبلی ما است که چه شخصیتی برای آن در نظر بگیریم و پیشنهاد من این بود که در اینجا بیمه‌های مسئولیت را برای جبران خسارت در نظر بگیریم و یک نوع مجازات‌های جدیدی هم برای این‌ها در نظر بگیریم که یک زندان‌هایی برای اقدامات تربیتی و کنترلی ربات‌ها است.
مجری: یعنی به نظر شما چنین چیزی شدنی است؟
بله، امکان‌پذیر است و اتفاقاً چیز دوری نیست، در آینده‌ی نزدیک این را در دنیا خواهیم داشت که یک‌سری سلسله مجازات‌های تنبیهی برای ربات‌ها و محرومیت‌هایی برای ربات‌ها خواهیم داشت.
مجری: یعنی ربات‌هایی که دارای تجزیه و تحلیل باشند.
بله. رباتی که دارای تجزیه و تحلیل باشد. رباتی که دارای تجزیه و تحلیل نیست، مجازات چنین رباتی از نظر فلسفه‌ی حقوق هم درست نیست، چون او هیچ قصدی ندارد که ما بخواهیم بر او مجازاتی را بار کنیم، او صرفاً یک ربات بی‌تقصیر است.
مجری: متشکرم. آقای دکتر سخاوتیان، این جرایم عمدی که شما از نظر فقه اسلامی بیان کردید، آیا می‌توان به هوش مصنوعی هم چنین جرایمی را منسوب کرد یا خیر؟
- آقای سخاوتیان
برای این‌که ببینیم آیا می‌توان به آن منتسب کرد یا نه، باید یک نگاهی به سیر تاریخی هوش مصنوعی بیاندازیم. در اوایل تولد واژه‌ی آرتیفیشال اینتلیجنسیا یا همان هوش مصنوعی که از کالج دارتموث و از سال ۱۹۵۶ مک‌کارتی مطرح کرده بود، در آن مقطع زمانی هوشمندی را به محاسبه‌گری معنا کرده بودند. اگر ما بگوییم هوش مصنوعی به معنای محاسبه‌گری است، بله، هوش مصنوعی دارای هوشمندی است و محاسبه می‌کند. خیلی سریع و با قدرت ضرب سنگینی را برای شما حل می‌کند. ما اگر هوشمندی را با این محاسبه‌گری معنا کنیم کاملاً درست است، دارای هوشمندی، اختیار و تحلیل است و در عین حال شما می‌توانید افعال را به آن‌ها منتسب کنید.
اما علامت سؤال بزرگ ما اینجا است که آیا هوشمندی به معنای محاسبه‌گری است؟ این‌که من فقط حالت ریاضیاتی بتوانم محاسبه کنم و یا بتوانم بین اطلاعات و داده‌ها با الگوریتم‌ها و روابط خاص ریاضیاتی ارتباط برقرار کنم و یا حتی از سیستم پرسپترون‌ها استفاده کنم و بین این‌ها ارتباط برقرار کنم، آیا این به معنای هوشمندی است؟ وقتی که دوره‌ی هوش مصنوعی جلوتر می‌آید... . حالا من نمی‌خواهم سیر تاریخی را بیان کنم که بگویم هر سال چه اتفاقاتی افتاد. چون اگر بخواهیم بگوییم زمان طولانی می‌شود. وقتی به ۲۰۱۰ به بعد می‌رسیم، تعریف هوشمندی عوض می‌شود و هوشمندی را صرفاً به فضای محاسبه‌گری اطلاق نمی‌کنند، یعنی خود پژوهشگران عمق بیشتری را پیدا می‌کنند. یک مثال می‌زنم تا این مطلب بهتر جا بیافتد. من در کنار بخاری ایستاده‌ام، فصل زمستان است و حواسم نیست، دستم به بخاری وصل است و یک لحظه می‌سوزد. من چه کردم؟ صغرا و کبرای منطقی چیدم، ۲×۲ تا ۴ تا کردم، چه کردم که دستم را کشیدم؟ می‌بینم همین که دستم در موقعیت سوختن قرار می‌گیرد، جسم من یک‌دفعه عکس‌العمل نشان می‌دهد و خودش را از بخاری دور می‌کند. همه می‌گویند که این عمل هوشمندانه است، ولی روی آن محاسبه‌ی ریاضی انجام ندادم و خودش کشیده شد. لذا معنای هوشمندی تغییر می‌کند. حالا سؤال اینجا است که آیا هوش مصنوعی هوشمندی به معنای اول را می‌خواهد به دست بیاورد؟ یا هوشمندی به معنای دوم را می‌خواهد به دست بیاورد؟
در معنای اول هوشمندی محاسبه‌گری بود، مثل همه‌ی آن چیزهایی که ما در ریاضیات، ماشین حساب و امثال این‌ها می‌دیدیم و روابطی که بین داده‌ها برقرار می‌کند. این فضا، فضای محاسبه‌ی ریاضیاتی است و شما می‌بینید که تمام این داده‌ها را به زبان ریاضی تبدیل می‌کنیم تا پیاده شود. اما سؤال اینجا است که ما به این معنا هوشمندی می‌گوییم یا به معنای دوم می‌گوییم؟ در معنای دوم یک مدبری داریم که تدبیر می‌کند، قوّه‌ی مدبره داریم. در فضای غرب این‌که این قوّه‌ی مدبره به چه چیزی تعلق می‌گیرد جای بحث دارد. در آنجا در فلسفه‌ی ذهن سؤال می‌شود که ذهن چیست؟ مغز چیست؟ Brain چیست، Mind چیست؟
مجری: ترجمه‌ی فارسی را برای شنوندگان ما بفرمایید.
Mind، ذهن و Brain، مغز می‌شود. این‌ها چیستند؟ در اینجا چند دیدگاه اصلی شکل می‌گیرد، برخی می‌گویند که ذهن چیزی فراتر از مغز است، برخی می‌گویند که ذهن همان مغز است، برخی هم می‌گویند که ذهن حاصل فعالیت مغز است. دیدگاه‌های متفاوتی وجود دارد. می‌توانیم در مورد این‌ها بحث هم بکنیم و بگوییم که از نظر فلسفی درست یا غلط هستند، همه‌ی این‌ها در فلسفه بحث شد و در آنجا مشخص می‌شود که ذهن فراتر از مغز است، مغز صرفاً ابزار معدّ است، همانند چشم که اطلاعات را جمع‌آوری می‌کند، مغز هم در طبقه‌بندی کردن و دسته‌بندی کردن‌های اطلاعات یک معدّ است، ذهن فراتر از آن است. ذهن به نفس انسان تعلق می‌گیرد. آن قوّه‌ی مدبر در نفس انسان شکل می‌گیرد. خب اگر هوش مصنوعی دارای این قوّه‌ی تدبیر باشد، خودبه‌خود دارای توانایی قصدیت هم خواهد شد. اگر دارای این قوّه‌ی مدبر نباشد، دارای توانایی آن قصدیت هم نخواهد شد. یعنی افعالش در اختیار خودش نیست، در اختیار کسی دیگر است که آن تدبیر این را بر عهده دارد. کمااین‌که در جلسه‌ی گذشته هم به این مسئله اشاره کردیم.
مجری: متشکرم. آقای عندلیب این سؤال را از شما دارم که شرایط تحقق جرم عمدی در هوش مصنوعی چه چیزهایی است؟
- آقای عندلیب
در هوش مصنوعی اگر بخواهیم آن جرم را منتسب به سبب کنیم، خب آن شرایط عام مسئولیت کیفری را باید داشته باشد، مثل این‌که آن سازنده بالغ باشد، عاقل باشد، مختار باشد. از نظر رفتار هم باید آن رفتار یا رفتار نوعاً کشنده و نوعاً در جنایت استفاده شود و یا این‌که قصد جنایت باشد و یا این‌که این قضیه نسبت به یک فرد و گروه خاصی اتفاق بیافتد که آن رفتار نسبت به آن‌ها کشنده است، مثل افرادی که دارای بیماری‌های خاص هستند. پس این شرایط کلی تحقق جرم عمدی از منظر قانون ایران است.
در مورد این‌که در سایر نظام‌های حقوقی چگونه نگاه می‌شود، ببینید ما یک قطع‌نامه‌ای در سپتامبر ۲۰۰۶ داریم که یک کمیسیون بین‌المللی الکترومغناطیس تشکیل شد و در آنجا بحث جرم و بحث مجازات را روی مسئله‌ی ریسک برد که اگر شخص حقیقی یا حقوقی یک محصولی را در حوزه‌ی الکترونیک تولید می‌کند، باید خسارت‌ها و پیامدهایی که این محصول دارد را اولاً جبران کند و ثانیاً باید ریسک و خطرپذیری آن را هم بسنجد. یعنی چه؟ به تعبیر خودمان برای این‌که در هوش مصنوعی تطبیق کنیم، آن شرکتی که می‌خواهد فرآورده‌های مبتنی بر هوش مصنوعی داشته باشد باید ببیند که درصد ریسک و خطای این‌ها چقدر است؟ این ربات‌هایی که درست می‌کند چقدر ممکن است به افراد زیان بزند؟ چقدر ممکن است جنایت انجام دهد؟ چقدر ممکن است به دیگران خسارت عمدی وارد کند؟ باید این را بررسی کند.
بنابراین این‌ها در چند تا سطح یک نوآوری‌هایی داشتند، یکی این‌که در سطح قضایی گفتند ما به جای این‌که بار اثبات را روی دوش شاکی بگذاریم، بار اثبات را روی عهده‌ی متشاکی می‌گذاریم.
مثال می‌زنم؛ یک پرونده‌ی بین‌المللی داشتیم که نیوزلند علیه فرانسه به خاطر اقدامات هسته‌ای در اقیانوس آرام در دیوان بین‌المللی دادگستری شکایت می‌کند. آنجا به جای این‌که نیوزلند دلیل بیاورد که؛ شکایت من به چه دلیل است و ادله‌ی من چیست؟ بار اثبات را روی گردن فرانسه انداخت. گفت: فرانسه، تو اثبات کن فعالیت‌هایی که در اقیانوس آرام انجام می‌دهی، فعالیت‌های مخرب محیط زیستی نیست. می‌گویند که؛ دقیقاً همین کار را در هوش مصنوعی انجام دهیم. بگوییم قرار نیست حتماً آن کسی که خسارت دیده دلیل بیاورد، باید آن شرکتی که این را ساخته اثبات کند که ربات‌های مبتنی بر هوش مصنوعی بدون ضرر هستند که حالا در نظام جدید ما می‌گوییم که باید استانداردهای چندگانه و آزمون‌های چندگانه را طی کند و شرکت به این اطمینان برسد که این ربات من برای افراد جامعه غیرمضر است.
دوم هم در سطح نظارتی است. وقتی ما یک جرمی را در جامعه می‌بینیم باید ببینیم که آیا در سطح نظارتی کوتاه شده یا نه؟ این جزء شرایط تحقق است. حالا ما در ادبیات خودمان ترک فعل می‌گوییم، یعنی باید ببینیم آیا کسی در مسئولیت خودش کوتاهی کرده است یا نه؟ ممکن است در اینجا نهادهای ناظر بر حوزه‌ی جامعه، مثل نهادهای امنیتی، نظارتی، انتظامی و این‌ها هم در تحقق یک جرم نقشی داشته باشند و مسئولیت این‌ها باید روشن شود. پس یک سطح هم سطح اداری است.
یک سطح هم سطح تقنین است که ما وقتی می‌خواهیم جرمی از جرایم عمدی را برای هوش مصنوعی در نظر بگیریم، باید یک تقنین متناسب با آن‌ها را در نظر بگیریم. نمی‌توانیم یک تقنین نامتناسب در نظر بگیریم.
بعدی هم بحث سطح سیاسی است. یعنی در حکمرانی یک حکمرانی خردمندانه برای هوش مصنوعی داشته باشیم در یک پازلی که با حوزه‌ی تقنین در ارتباط است، با شرکت‌ها و مؤسسات خصوصی در ارتباط است و نهادهای امنیتی و انتظامی هم بر این مسئله نظارت دارند که کمترین وقوع جرم را در جامعه داشته باشیم.
با این پازلی که من عرض کردم جرایم کیفری مبتنی بر هوش مصنوعی می تواند به حداقل برسد و اگر جرمی از سیستم‌های دارای هوش مصنوعی به وقوع پیوست، ما باید دوباره چهار حوزه را نگاه کنیم و ببینیم که حوزه‌ی حکمرانی ما چگونه است، حوزه‌ی تقنین‌مان چگونه است، حوزه‌ی مسئولین و نهادهای امنیتی و نظارتی و حوزه‌ی شرکت‌های سازنده چگونه است. این چهار عامل مؤثر و مهم هستند. البته خود آن فاعل و مباشر که آن دستگاه مبتنی بر هوش مصنوعی، با آن تفاوتی که من عرض کردم که آیا خودش تصمیم می‌گیرد یا نمی‌گیرد هم هست که باید به صورت جداگانه در مورد مسئولیت او هم بحث کنیم.
مجری: متشکرم. جناب آقای دکتر سخاوتیان، از نظر فقه اسلامی شرایط تحقق جرم عمدی در هوش مصنوعی چیست؟
- آقای سخاوتیان
قبل از این‌که به پاسخ جنابعالی بپردازم، از بیانات برادرمان جناب آقای عندلیب استفاده کنم. تمام مطالبی که ایشان بیان کردند، اگر لازمه‌اش را استخراج کنیم، این می‌شود که خود هوش مصنوعی اختیاری نداشته که جرمی انجام دهد، باید به سراغ شرکت سازنده‌اش برویم. ما از ابتدای بحث همین را می‌گوییم که می‌گوییم هوش مصنوعی بما هو هوش مصنوعی اصلاً توانایی انجام جرم ندارد و جرمی نمی‌تواند به آن منتسب شود.
- آقای عندلیب
البته آقای دکتر، ما در اینجا یک تفاوت نظر داریم که در آن هوش مصنوعی قوی ما می‌گوییم که خود این هوش مصنوعی می‌تواند تحلیل‌ها و رفتارهایی داشته باشد و به خاطر همین آن تقسیم‌بندی را عرض کردم که سازنده‌ی هوش مصنوعی أرادَ A و لکن دستگاه هوش مصنوعی B, D, C را خراب می‌کند. یعنی خودش یک تحلیلی کرده است، فقط هم اختلال سیستمی نیست، بلکه تحلیل جداگانه‌ای کرده و می‌گوید که الان به نظر من B, D, C مضر هستند، هر چند این را در فضای هالیوود و فیلم‌ها داریم ولی یک واقعیتی است که ممکن است خود هوش مصنوعی یک شیئی را مضر تشخیص دهد و اقدام به کشتن آن کند، در حالی که سازنده‌ی آن اصلاً چنین چیزی را اراده نکرده است.
- آقای سخاوتیان
آقای دکتر، من به شما کمک کنم. این بحث هوش مصنوعی قوی و ضعیف را در دهه‌ی ۵۰ و ۶۰، جان سل مطرح کرد و در یک دوره‌ای هم همه آن را پذیرفتند و این‌که الان تقریباً جا افتاد و خیلی‌ها این حرف را می‌زنند مال آن دوره است، ولی وقتی به دوره‌های بعد می‌رسیم تقریباً می‌بینیم که اندیشمندان عرصه‌ی هوش مصنوعی به یک فضای دیگری وارد شدند، آن فضایی که جان سل تعریف کرد را قبول ندارند. این‌که واقعاً هوش مصنوعی قوی در آینده رخ می‌دهد و شکل پیدا می‌کند تنها در یک صورت امکان دارد و آن هم این است که دانش بشر به قدری بالا برود که بتواند بر آن کلان‌داده‌ها، چه از حیث اطلاعاتی و چه از حیث ساختاری و الگوریتمی، بر همه‌ی این‌ها از تمام حیثیات مسلط شود و هیچ جای شبهه‌ای نماند، اگر یک جایی خلائی بماند، هوش مصنوعی قوی هیچ‌گاه نمی‌تواند شکل بگیرد و شبیه به انسان عمل کند. این شرایط خاص خودش را دارد. لازمه‌ی آن هم چیست؟ شما باید از همه‌ی آن چیزی که در کیهان هست هم اطلاع پیدا کنید تا بتوانید آن کلان‌داده را شکل دهید و آن کلان‌داده هیچ‌گاه پدید نخواهد آمد.
بله، در حیث محاسبه‌گری، در حیث رشد و تکامل هوش مصنوعی رشد خواهد کرد، تکامل خواهد یافت، ولی هر قدر هم که بالا برود، در نهایت دستیار انسان است و نمی‌تواند بر نفس انسانی مسلط شود. این یک قید خیلی مهمی است که بر نفس انسانی نمی‌تواند مسلط شود. اگر هم خواستید در یک جلسه‌ی مستقلی درباره‌ی همین صحبت می‌کنیم. این‌که من به چیزی که هیچ‌گاه نمی‌تواند به عنوان یک انسان تحقق پیدا کند، شخصیت دهم، این امکان‌پذیر نیست. خود شما هم در توضیح‌تان گفتید که آن شرکت باید ریسک‌پذیری را تنظیم کند. چرا آن شرکت را گفتید؟ به خاطر این‌که این هوش مصنوعی شخصیت مستقل ندارد و وابسته به آن شرکت است. یعنی همین حرف ریسک‌پذیری که شما بیان کردید نشان دهنده‌ی این است که این هوش مصنوعی خارجی به عنوان یک هوش مستقل، به عنوان یک شخص مستقل، هیچ‌گاه اصلاً نمی‌تواند اراده‌ی فعل کند. اراده‌اش به چه چیزی تعلق می‌گیرد؟ به آن شرکتی که آن را درست کرد و یا آن انسانی که آن را درست کرد و یا در مرحله‌ی درست کردن و طراحی و بهینه‌سازی همه چیز درست بود، آن کاربری که از آن استفاده کرد، بد استفاده کرد. یعنی تمام این جرایم به سراغ آن سبب می‌رود، این مباشری که در اینجا هست ضعیف است. کمااین‌که ما در یک جلسه به صورت مستقل هم درباره‌ی سبب و مباشر هم صحبت کردیم.
با این توضیحی که بنده دادم جرایم عمد تنها در صورتی به هوش مصنوعی اتصاف پیدا می‌کند و می‌توانیم به آن نسبت دهیم که این هوش مصنوعی من بتواند فعل اختیاری داشته باشد و تا زمانی هم که نفس انسانی پیدا نکند، فعل اختیاری از آن سر نخواهد زد. هوش مصنوعی کامل خواهد شد، قدرتی بیش از این خواهد یافت، در زندگی انسان نقشی بیش از این ایفا خواهد کرد ولی در همه‌ی حالت‌ها امتداد وجود انسان است و هیچ‌گاه نمی‌تواند برتر از وجود انسان شود.
مجری: بسیار متشکر و ممنونم. به نظرم بحث بسیار جذابی بود.
مجری برنامه: مجید لاهیجانی امیری
تنظیم: محمد رسول صفری عربی
نظر شما