به گزارش خبرگزاری حوزه، برنامه فقه پویای رادیو معارف در ۹ جلسه به بررسی فقهی و حقوقی ابعاد گوناگون هوش مصنوعی پرداخته که رسانه رسمی حوزه به انتشار محتوای این برنامه‌ها در شماره های گوناگون پرداخته و در این مطلب به انتشار جلسه دوم خواهیم پرداخت.
مجری: بسم الله الرحمن الرحیم. در این برنامه می‌خواهیم موضوع بررسی فقهی و حقوقی ابعاد گوناگون هوش مصنوعی را به بحث و گفتگو بنشینیم.
در خدمت میهمان بزرگوار برنامه جناب حجت‌الاسلام والمسلمین آقای سید امیر سخاوتیان هستیم. خدمت شما سلام عرض می‌کنم.
- آقای سخاوتیان
من هم خدمت جنابعالی و همه‌ی عزیزانی که صدای من را می‌شنوند و همچنین خدمت برادر عزیزمان، کارشناس برنامه عرض ادب و احترام دارم.
مجری: متشکرم. استاد سخاوتیان استاد حوزه و هیئت علمی دانشگاه آزاد اسلامی قم و مسئول راه‌اندازی دانشکده‌ی مطالعات بنیادین هوش مصنوعی هستند و در این سال‌ها مقالات و یادداشت‌های مختلفی را پیرامون این موضوع تألیف کرده‌اند. در خدمت جناب حجت‌الاسلام والمسلمین آقای حسین عندلیب هستیم. سلام عرض می‌کنم.
- آقای عندلیب
بنده هم خدمت جنابعالی و همه‌ی شنوندگان محترم و کارشناس محترم برنامه، برادر عزیزم جناب حجت‌الاسلام والمسلمین آقای سخاوتیان عرض سلام دارم، امیدوارم مباحث خوبی را با هم داشته باشیم.
مجری: جناب آقای عندلیب استاد حوزه و هیئت علمی دانشگاه آزاد اسلامی قم و مسئول راه‌اندازی دانشکده‌ی سبک زندگی اسلامی هستند و سال‌ها مقالات و یادداشت‌های گوناگونی را پیرامون این موضوع تألیف کردند.
ما در برنامه‌ی قبل صحبت کردیم که هوش مصنوعی تکنولوژی است که عملکردی شبیه به انسان و یا فراتر از عملکرد انسان پیدا می‌کند و غالباً به عنوان شاخه‌ای از علوم کامپیوتری شناخته می‌شود. با توجه به گسترش و کاربردهای فراوانی که هوش مصنوعی دارد و این‌که وارد زندگی ما انسان‌ها شده، می‌طلبد که جایگاه فقهی و حقوقی آن را مورد بحث و گفتگو قرار دهیم.
یکی از مباحثی که در برنامه‌ی گذشته پیرامون آن صحبت کردیم این بود که هوش مصنوعی و جرایمی که منتسب به آن هست، سبب هستند یا مباشر؟ گفتیم که ضرر و زیان نسبت به یک یا چند عامل یا به صورت مستقیم هست که به آن عامل مباشر گفته می‌شود و یا این یک یا چند عامل به صورت غیرمستقیم است که به آن سبب گفته می‌شود و بررسی کردیم که هوش مصنوعی در یک تقسیم‌بندی به هوش مصنوعی ضعیف و هوش مصنوعی قوی تقسیم می‌شود.
هوش مصنوعی ضعیف آن است که کارهایی شبیه به انسان انجام می‌دهد و هوش مصنوعی قوی هوش مصنوعی است که دقیقاً عین انسان عمل می‌کند. گفتیم که هوش مصنوعی ضعیف فعلاً در کارکردهای انسان وجود دارد و از نظر حقوقی و حقیقی نمی‌تواند ضامن باشد. ما در این برنامه می‌خواهیم صحبت کنیم که آیا شخصیت حقوقی قابل اعطا به سیستم‌های هوش مصنوعی هستند یا خیر؟
من این سؤال را از جناب آقای دکتر عندلیب دارم. آیا از نظر حقوقی می‌توانیم یک شخصیت مستقل حقوقی برای هوش مصنوعی قائل شویم یا خیر؟
- آقای عندلیب
در خصوص این‌که ما چه شخصیتی را برای هوش مصنوعی قائل شویم نظرات متفاوتی در بین دانشمندان حقوق مطرح است. واقعیت این است که باید موضوع را از ابعاد مختلف بررسی کنیم و ببینیم که تحلیل ما در خصوص هوش مصنوعی چیست و سپس به این نظر برسیم که آیا می‌توان برای هوش مصنوعی یک شخصیت حقوقی قائل شد یا خیر؟
برخی از حقوقدانان غربی مثل آقای سولام یک کتابی با نام شخصیت حقوقی برای هوش‌های مصنوعی دارد. همان‌طور که از نام کتاب پیدا است، ایشان می‌خواهد این فرضیه را به اثبات برساند که ما برای هوش مصنوعی یک شخصیت حقوقی قائل شویم. وقتی شخصیت حقوقی قائل شدیم طبیعتاً یک آثار و تبعاتی برای شخصیت حقوقی در نظام‌های حقوقی مطرح است و یک تفاوت‌هایی با شخص حقیقی دارد.
برخی دیگر از اندیشمندان حقوق تقسیم‌بندی که در خصوص هوش مصنوعی کرده‌اند سعی کرده‌اند با نمونه‌های دیگر تشبیه کنند و ببینند که چه شبیه‌هایی در بین برخی دیگر از افراد یا اشخاص دیگر و یا حیوانات وجود دارد. تقسیم‌بندی که در مباحث حقوقی در این‌باره وجود دارد این است که برخی‌ها هوش مصنوعی را به مثابه یک فرد نامعقول دانسته‌اند، برخی هوش مصنوعی را به مثابه یک کودک دانسته‌اند، برخی هوش مصنوعی را به عنوان یک کارگر و یک کارمند دانسته‌اند.
چگونه است که وقتی یک کارمند یا کارگری دچار یک خطا یا دچار یک جرم می‌شود، مسئولیت او با کارفرمای او است؟ اینجا می‌خواهند مسئولیت را به کارفرما نسبت دهند. برخی هم آن را شبیه به حیوانات دانسته‌اند، برخی هم آن را شبیه به وسیله‌ی نقلیه دانسته‌اند. در ربات‌های مبتنی بر هوش مصنوعی هم می‌بینیم در بین اندیشمندان حقوق سه تا نظر وجود دارد. می‌گوید که ما می‌توانیم این ربات‌ها را به مثابه یک حیوان خطرناک ببینیم. می‌توانیم ربات‌ها را به مثابه یک کودک ببینیم و یا می‌توانیم ربات‌ها را صرفاً به مثابه یک کارگر بدانیم. چگونه است که ما در کارگر و در کودک می‌گوییم مسئولیتش با فردی است که بالاتر از او است و اصطلاحاً سبب در اینجا أقوی از مباشر است؟ اینجا هم همین حرف را می‌زنیم.
به نظر می‌رسد آن چیزی که در نظام حقوقی کشور ما ابتدا باید مورد بحث قرار بگیرد همین تبیین و تعیین شخصیت هوش مصنوعی است که با توجه به تقسیمی که جناب آقای دکتر سخاوتیان هم در جلسه‌ی گذشته تأکید بیان کردند و جنابعالی هم در ابتدای جلسه بیان کردید ما هوش مصنوعی قوی و ضعیف داریم و یا به تعبیر دیگری که من برای آشنایی مخاطب عزیزمان عرض کنم، هوش مصنوعی که هیچ اختیاری از خود ندارد و صرفاً شبیه به یک سیستم کامپیوتری عمل می‌کند و هیچ تجزیه و تحلیلی از خود ندارد و یا هوش مصنوعی که خودش هم یک تجزیه و تحلیلی دارد. این با هم تفاوت دارد که این دو تا به چه شکلی می‌شود.
به نظر می‌رسد ما باید برای هوش مصنوعی که خودش تحلیل‌هایی دارد و خودش پردازش‌هایی دارد و صرفاً اصطلاحاً یک عامل کامپیوتری یا یک عامل رایانه‌ای نیست، بلکه خودش هم تصمیم‌ها و نقش‌هایی را ایفا می‌کند، یک شخصیت حقوقی قائل شویم. چرا؟ چون نمی‌توانیم برای او شخص حقیقی قائل شویم.
شخص حقیقی در تمام نظام‌های حقوقی دنیا صرفاً انسان است. غیرانسان نمی‌توانیم شخص حقیقی قائل شویم. چاره‌ای جز این نداریم که یک شخصیت حقوقی برای آن قائل شویم، البته یک شخصیت حقوقی نوین با تقنین و قانون‌گذاری نوین، با مسئولیت‌های جدید و همچنین تعیین مجازات‌های جدید و پیشنهادی که من دارم تعیین بیمه‌های خاص مسئولیت برای دستگاه‌های مبتنی بر هوش مصنوعی است.
یعنی ما باید این چند مسئله را در نظام حقوقی کشورمان کاوش کنیم، گفتگو کنیم، مباحثه کنیم، تبیین کنیم تا یک حکمرانی صحیح درست در حوزه‌ی هوش مصنوعی داشته باشیم، همان‌طور که مقام معظم رهبری بیان کردند. لذا می‌طلبد که ما در این جلسات به فضل الهی این مطالب که مطالب مهم و بنیادین حقوقی در هوش مصنوعی است را به بحث و بررسی بگذاریم.
مجری: متشکرم. پس با توجه به صحبت‌های جنابعالی، می توانیم هوش مصنوعی که تجزیه و تحلیل و اختیار از خودش دارد، یک شخصیت حقوقی قائل شویم، درست است؟
بله، ما پیشنهاد می‌کنیم، چون ما در تعریف شخصیت حقوقی محذوریت‌هایی داریم. حقیقت این است که هوش مصنوعی یک عنوان جدید است و هر چه تا حالا در شخصیت حقوقی داریم، شبیه به شرکت‌ها بوده است و ذهن نظام حقوقی ما در ایران با شرکت‌ها و اشخاص حقوقی مثل سازمان‌ها و ادارات عجین شده، یک‌دفعه که بخواهیم از هوش مصنوعی به عنوان یک شخصیت حقوقی بحث کنیم، یک عنوان جدید می‌شود و لذا باید در این مورد بحث کنیم.
به نظرم می‌رسد که ما اصطلاحاً نباید درگیر اسم باشیم، ولی می‌خواهم بگویم که بالأخره ما باید روی این قضیه به یک جمع‌بندی برسیم و یک ماهیت حقوقی برای آن در نظر بگیریم تا مسئولیت‌ها را روشن کنیم.
مجری: متشکرم. آقای دکتر سخاوتیان، با توجه به صحبت‌هایی که آقای دکتر عندلیب پیرامون شخصیت حقوقی هوش مصنوعی داشتند، آیا در فقه هم چنین صحبتی مطرح هست یا خیر؟ نظر فقها چیست؟ آیا اصلاً برای هوش مصنوعی یک شخصیت حقیقی یا حقوقی خاصی در نظر گرفته‌اند؟
- آقای سخاوتیان
انتهای صحبت ایشان که بیان کردند ما باید برای هوش مصنوعی شخص حقوقی قائل شویم را برای نیمه‌ی دوم می‌گذاریم که بحث قشنگ‌تری راه می‌افتد.
اما در قسمت اول به این مطلب بپردازیم که اصلاً شخص حقیقی چیست و چه ویژگی‌هایی دارد؟ شخص حقوقی چیست و چه ویژگی‌هایی دارد؟ و با توجه به این ویژگی‌هایشان آیا می‌توانیم اصلاً به هوش مصنوعی شخص حقیقی یا شخص حقوقی بگوییم یا نه؟ باید این بخش را دقیق باز کنیم و در فقه به این مبحث پرداخته می‌شود.
در فقه دو مبحث اصلی داریم؛ اصلاً به چه چیزی شخص و به چه چیزی شخصیت می‌گویند؟ این دو تا از هم متمایز هستند ولی خیلی هم به هم نزدیک هستند.
شخص به کسی گفته می‌شود که صلاحیت حق و تکلیف دارد، مثلاً می‌تواند معامله‌ای را انجام دهد، وقتی معامله‌ای انجام می‌دهد یک حقوقی دارد و در ازای آن معامله‌ی خودش یک تکالیفی را هم دارد. خانه‌ای که خریده، مالک خانه می‌شود و حق او می‌شود. تکلیفش هم چیست؟ پرداختن آن ثمن و پول خانه است که باید به صاحبخانه‌ی قبلی پرداخت کند. پس یک حق و یک تکلیفی دارد. در نظام حقوقی و همچنین در فقه به هر چیزی که دارای حق و تکلیف باشد، شخص می‌گویند. این نکته‌ی اول است.
حالا با این نکته یک گریزی به بحث الان بزنیم. آیا هوش مصنوعی دارای حق و تکلیف هست یا نیست؟ بعداً در این مورد بحث می‌کنیم، فعلاً طرح مسئله می‌کنیم که ببینیم اصلاً شخص و شخصیت چیست؟ شخص حقیقی چیست؟ شخص حقوقی چیست؟ به چه چیزی شخصیت می‌گویند؟ هر ویژگی که شخص داشته باشد، یک موجود و یک شیء داشته باشد که صلاحیت حق و تکلیف پیدا کند، در حقوق و در فقه به آن شخصیت می‌گویند. الان یک تکه سنگ چه ویژگی می‌تواند داشته باشد که حق و تکلیف داشته باشد؟ اگر دارای ویژگی باشد که دچار حق و تکلیف شود، شخصیت دارد، آن تکه سنگ دارای شخصیت خواهد شد، اما اگر ویژگی نداشته باشد که دارای حق و تکلیف شود، شخصیت ندارد. چون شخصیت ندارد، خودبه‌خود حق و تکلیف ندارد و خودبه‌خود شخص هم اطلاق نمی‌شود. یعنی اطلاق شخص به یک شیء و به یک موجود از باب ملکه و عدم ملکه است. ما به هر چیزی نمی‌توانیم شخص بگوییم.
مجری: یک توضیحی در مورد ملکه و عدم‌ملکه بفرمایید.
در جلسه‌ی گذشته مثال زدم ولی دوباره هم عرض می‌کنم. ببینید ما به کسی که می‌تواند ببیند، بینا می‌گوییم، به کسی که نمی‌تواند ببیند نابینا می‌گوییم. حالا سؤال می‌پرسم: آیا به سنگ می‌توانیم نابینا بگوییم؟ خیر
به همین ویژگی ملکه و عدم‌ملکه می‌گوییم. انسان ملکه‌ی بینایی دارد که بینا می‌شود و اگر نبیند، نابینا می‌شود.
یعنی صلاحیت بینایی و نابینایی را داشته باشد. این ویژگی ملکه‌ی بینایی می‌شود. اما سنگ، قند و این کتاب که این ویژگی را ندارند، می‌گوییم که این ملکه‌اش را ندارد، اصلاً درست نیست صحبت کنیم که بگوییم این دفتر نابینا است. این اصطلاح غلط است. حالا ما این بخش را از اینجا استفاده می‌کنیم. آیا می‌توانیم به هوش مصنوعی شخص اطلاق کنیم و به آن حق و تکلیف نسبت دهیم یا نه؟ این نکته‌ی خیلی مهمی است. یکی یکی تقسیم‌ها را می‌گوییم و ان‌شاءالله در قسمت بعد روی مصداقی و تطبیقی آن صحبت می‌کنیم که آیا اصلاً چنین ویژگی‌های اطلاق شخصیت و شخص را دارد یا نه؟
در این بین یک تقسیم‌بندی دیگری هم داریم. تقسیم‌بندی دیگر چیست؟ شخص طبیعی - شخص حقوقی. شخص طبیعی در طبیعت به عنوان یک شخصیت شناخته می‌شود که از نظر فقهی و حقوقی به نوع بشر شخص حقیقی می‌گویند، اما به غیر از آن هر چیزی که دارای حق و تکلیف می‌شود، به آن شخص حقوقی می‌گویند که اصطلاحاً آن چیزی که در ذهن مردم امروزه رایج است، به مؤسسات، شرکت‌ها، بانک‌ها، مدارس، دانشگاه‌ها، بیمارستان‌ها، نهادها و سازمان‌ها و... اطلاق شخص حقوقی می‌کنند و در نظام حقوقی هم غالباً با همین مواجه هستند، اما در نظام فقهی فراتر از این است و صرف این مجموعه نیست، ولی امتناعی هم ندارد که به همین مجموعه اطلاقش کنیم، درست است.
به این مجموعه‌ها، شخص حقوقی می‌گویند. شخص حقوقی یعنی چه؟ یعنی بر اساس اعتبار، بر اساس یک قرارداد یا انتزاع شکل می‌گیرد، مثلاً یک مؤسسه که شکل گرفت، این مؤسسه دارای حق و تکلیف هست یا نیست؟ می‌تواند حساب بانکی باز کند، خود همین مؤسسه می‌تواند مالک یک ملکی باشد و خود همین مؤسسه هم می‌تواند ملک خودش را بفروشد. پس هم حق و هم تکلیف دارد. بله، چه کسی انجام می‌دهد؟ حالا یا مدیرعامل یا نماینده‌ی آن انجام می‌دهد، این بحث دیگری است. آن مدیرعامل و نماینده ملک مؤسسه را می‌فروشد، نه ملک خودش. پس این مؤسسه می‌تواند مالک شود، می‌تواند خرید کند و در ازای خرید خودش تعهد دارد که باید پول را پرداخت کند و غیره. پس این مؤسسه دارای یک شخصیت است. چرا؟ چون یک ویژگی دارد که صلاحیت حق و تکلیف را به آن می‌دهد. در نتیجه می‌توان به آن اطلاق شخص کرد.
اما این‌که ماهیت شخصیت اعتباری چیست، چون دامنه‌ی این بحث طولانی است، وارد آن نمی‌شویم که آیا واقعاً یک شیء حقیقی در خارج است که به وسیله‌ی نماینده‌اش کار انجام می‌دهد یا این‌که اصلاً یک چیز انتزاعی و اعتباری صرف است که در خارج چیزی نیست، افرادی هستند که دور هم جمع شده‌اند و ما به آن اطلاق می‌کنیم. این‌ها حرف‌های بعدی است که در مباحث فقهی و حقوقی کاملاً به آن پرداخته شده است. ما به آن نمی‌پردازیم و به همین مقدار کفایت می‌کنیم که آیا هوش مصنوعی از سنخ اول از نوع بشر محسوب می‌شود که به آن شخص حقیقی بگوییم؟ یا از سنخ این مؤسسات است، یک چیز اعتباری است که دارای حق و تکلیف است که به آن شخص حقوقی بگوییم؟ یا این‌که هیچ‌کدام نیست و نوع دیگری است که اگر اجازه دهید در قسمت دوم بحث به آن بپردازیم.
مجری: ممنونم. تا اینجا صحبت کردیم که آیا به هوش مصنوعی می‌توان شخصیت مستقلی اعطا کرد یا خیر؟ و آن را از نظر حقوقی بررسی کردیم و گفتیم که با توجه به این‌که نگاه ما به هوش مصنوعی متفاوت است، بستگی به نگاه ما دارد که آیا شخصیتی به هوش مصنوعی اعطاء کنیم و این نظر ما متفاوت خواهد بود و همچنین پیرامون شخص حقیقی و شخص حقوقی در فقه صحبت کردیم.
آقای دکتر عندلیب، با توجه به این‌که شما بیان کردید نگاه‌های متفاوتی نسبت به هوش مصنوعی وجود دارد و برای همین هم اعطای شخصیت به هوش مصنوعی متفاوت خواهد بود، چه میزان از شخصیت در این میان قابل اعطاء به هوش مصنوعی است و همچنین این‌که موضوع نظام حقوقی اسلام و یا غرب نسبت به این مسئله چیست؟
- آقای عندلیب
خوب است که یک بازخوانی از تعریف شخصیت حقوقی داشته باشیم تا ببینیم که سیستم‌های مبتنی بر هوش مصنوعی را می‌توان تحت شخصیت حقوقی جای داد یا خیر؟
البته این‌که ما اصرار کنیم که حتماً این را ذیل شخصیت حقوقی بحث کنیم شاید اصرار زیاده‌ای باشد و لکن چون شبیه به شخصیت حقوقی نیاز داریم که یک امری باید شبیه به شخصیت حقوقی که دارای یک‌سری تکالیف و یک‌سری امور است که خودش مستقیماً مسئول نباشد، به خاطر این وجه شبه‌ها است که ما به این سمت می‌رویم که شخصیت حقوقی را برای هوش مصنوعی تصور کنیم، هر چند که من عرض می‌کنم که این‌ها آغازهایی برای تأملات حقوقی درباره‌ی این است که ما به یک نتیجه‌ای در هوش مصنوعی برسیم.
چون واقعیت این است که ما در نظام حقوقی ایران فعلاً در مورد ماهیت هوش مصنوعی در نظام حقوقی بحثی نداریم و تنقیح شده نیست. در حوزه‌ی فقه اسلام هم که این موضوع جزء مسائل مستحدثه و نوپیدا است و بنابراین توقعی از این موضوع نمی‌رود. البته مباحث فقهی در حوزه‌های علمیه شروع شده ولی این‌که بگوییم الان ما به یک قرار و به یک نظریه‌ای رسیده‌ایم و یا به یک تعریف واحد رسیده‌ایم، فعلاً این‌طوری نیست.
بنابراین به نظرم می‌رسد که ما تعریف شخصیت حقوقی را از نظر نظام حقوقی ایران بازخوانی کنیم تا ببینیم چه میزان می‌توان برای هوش مصنوعی شخصیت حقوقی قائل شد.
شخصیت حقوقی عبارت از این است که دسته‌ای از افراد دارای یک منافع مشترک و یا فعالیت مشترک با هم توافق کنند در قالب یک انجمن، یک شرکت و یک مؤسسه اقداماتی را انجام دهند، مثال هم زیاد است، مؤسسات تجاری، غیرتجاری، آموزشی و موارد دیگر. شخصیت حقوقی در حقیقت یک شخص اعتباری است. یعنی قانون‌گذار و حقوق‌دان برای این مؤسسه و برای این شرکت یک شخصیتی را اعتبار کرده تا تکالیف، قوانین، حقوق و مقرراتی را وضع کند، چون ناچار از این است که این کار را بکند. چرا؟ چون نمی‌تواند صرفاً بر یک نفر از این اعضاء مسئولیتی را بار کند. چرا؟ چون که ممکن است آن فرد مدیرعامل کوتاهی نکرده باشد.
مثال بزنم؛ یک فردی در یک شرکتی کار می‌کند، حادثه‌ی کار برای او پیش می‌آید که ما در عنوان کیفری با عنوان ایراد صدمه‌ی بدنی غیرعمدی بر اثر حادثه حین کار می‌گوییم. کارشناس حادثه که می‌آید موضوع را بررسی می‌کند دو مدل نظر می‌دهد؛ بعضی می‌گویند که شخصیت حقوقی شرکت در این حادثه مقصر است، حالا با هر درصد تقصیری باشد، بعضی هم شخص حقیقی مدیرعامل را مقصر می‌دانند. وقتی از کارشناس سؤال می‌کنید که آقای کارشناس، چرا شخص حقیقی را مقصر کردید؟ می‌گوید: چون این مدیرعامل در تهیه‌ی وسایل ایمنی برای کارگر کوتاهی کرده است. شرکت مقصر نیست. ایشان باید کلاه ایمنی، کفش مناسب و دستکش می‌خریده ولی این کارها را نکرده است، بنابراین مدیرعامل مقصر است. با این‌که در شرکت کار می‌کرده ولی به شخص حقیقی منتسب می‌کند.
بنابراین در برخی جاها به خاطر این‌که یک تکالیفی را بیاوریم، چاره‌ای جز این نداریم که یک شخصیتی را برای آن قائل شویم. قانون‌گذار ایران در ماده‌ی ۵۸۸ قانون تجارت یک تعریفی دارد که می‌گوید: شخص حقوقی می‌تواند دارای کلیه‌ی حقوق و تکالیفی شود که قانون برای افراد قائل است. یعنی همه‌ی آن چیزهایی که برای شخص حقیقی قائل هستیم می‌توانیم برای شخص حقوقی در نظر بگیریم، مگر حقوق و وظایفی که بالطبیعه فقط برای انسان ممکن است که در این صورت مثال هم می‌زنند، مثل ابوت و پدری و یا بنوت و پسری و یا حضانت. می‌گوید که ما نمی‌توانیم این ها را در مورد شخصیت حقوقی قائل شویم. فقط این انواع و امثال ذلک است که باید شخصیت حقوقی قائل شویم وگرنه تمام آن تکالیف را می‌توانیم برای شخصیت حقوقی قائل شویم.
بنابراین به نظر می‌رسد ما می‌توانیم برای سیستم‌های دارای هوش مصنوعی یک شخصیت حقوقی قائل شویم. این به عنوان یک پیشنهاد برای نظام حقوقی‌مان است که یک شخصیت حقوقی برای آن قائل شویم و برای جبران خسارت همان بحثی که برای شخصیت‌های حقوقی دیگر از شرکت‌ها و مؤسسات در نظر گرفتیم برای این‌ها هم بیمه‌های مسئولیت خاص در نظر بگیریم که اگر این ربات، اگر این محصول مبتنی بر هوش مصنوعی به کسی خسارت زد، بیمه‌ها این را جبران کنند. بالأخره یک شرکت‌هایی این سیستم‌ها را درست کردند و شرکت‌ها در قبال مسئولیت خودشان باید پاسخگو باشند و برای این پاسخگویی هم بیمه‌ها جبران کنند که هم صنعت هوش مصنوعی ارتقاء و رشد پیدا کند و هم بازارش به سمت پیشرفت برود و هم این‌که خسارت را متوجه شرکت‌ها نکنیم. بیمه‌ها یک نمونه‌ی کاملاً امتحان شده در دنیا هستند که الان در کشور ما هم به وفور می‌بینید که بیمه‌های مسئولیت حادثه برای شرکت‌ها و اشخاص حقوقی در نظر گرفته شده که این اطمینان خاطر را می‌دهد که این‌ها در مقاب افعال زیان‌بار مسئولیت دارند.
مجری: آقای دکتر، این‌که بیان کردید ما می‌توانیم به هوش مصنوعی هم یک شخصیت حقوقی اعطاء کنیم، چه مقدار قابل اعطاء است؟ یعنی آیا می‌توان هوش مصنوعی را مثل یک شرکت، سازمان و نهاد در نظر گرفت و بر آن قوانین را اعمال کرد؟
ببینید هوش مصنوعی یک مسئله‌ی نوپیداست؛ ما باید ابتدا ابعاد گوناگون فعالیت آن را ببینیم، چون در حال پیشرفت است و اصطلاحاً دائماً در حال شدن است، یعنی دارد نو به نو می‌شود. ما باید ابعاد گسترده‌ی هوش مصنوعی را با تغییر و تحولاتی که در مورد هوش مصنوعی پیش می‌آید ببینیم و یک طیف وسیعی از قوانین و مقررات با ابعاد گوناگون آن تعریف کنیم. آن زمان بسته به نیاز خودمان باید ببینیم که چه میزان می‌توان به آن شخصیت داد.
شاید از شرکت‌های عادی هم متفاوت شود، شاید ارتقاء پیدا کند، شاید یک مسئولیت‌های جدیدی داشته باشد. چون این‌ها حتی از مسئولیت داخلی هم فراتر می‌رود، مسئولیت بین‌المللی هم پیدا خواهد کرد، یعنی شرکت‌های چندملیتی در مورد هوش مصنوعی و حتی تعاملات شرکت‌های دارای هوش مصنوعی با کشورهای دیگر هم هست. شما تصور بفرمایید که یک کشوری دارای تکنولوژی هوش مصنوعی است و محصولاتی را تولید کرده و به یک کشور دیگری فروخته است و الان آن کشور در آن محصولات دچار مشکل شده است. در اینجا قانون معیار چیست؟ در تفاهم بین این دو و یا در تضاد بین دو شرکت بین‌المللی چه قانونی برای رفع اختلاف حکم‌فرما باشد؟ این‌ها مسائل مهمی است که در آینده‌ی هوش مصنوعی و توسعه‌ی هوش مصنوعی دائم نیازهای حوزه‌ی تقنین و سیستم حقوقی ما بیشتر خودش را نشان می‌دهد.
مجری: متشکرم. جناب آقای دکتر سخاوتیان، با توجه به مقدمه‌ای که داشتید و پیرامون شخص حقوقی و شخص حقیقی بیان کردید و تقسیم‌بندی داشتید، ما باید هوش مصنوعی را یک شخص حقیقی یا یک شخص حقوقی بدانیم یا یک شخصیت سومی برای آن قائل شویم؟
- آقای سخاوتیان
از جناب استاد دکتر عندلیب تشکر می‌کنم، استفاده کردیم.
ببینید گفتیم که شخص حقیقی فقط نوع بشر و انسان است. اگر هوش مصنوعی بتواند به یک مرتبه‌ای برسد که دارای نفس انسانی شود، خب ما مشکلی نداریم و بر آن شخص حقیقی اطلاق می‌کنیم، یعنی نفس انسانی بر آن حاکم شود و خودش دارای یک نفس انسانی مستقل شود، اما عملاً چنین چیزی امکان‌پذیر نیست. چرا امکان‌پذیر نیست؟ چون در طبیعت... .
شما ممکن است صحبت از اعجاز کنید، ولی بحث من اعجاز نیست، چون در اعجاز صحبت از امور خارق العادت می‌شود. ما درباره‌ی امور طبیعی، آن چیزی که عادی است و در طبیعت هست صحبت می‌کنیم. برای نفس انسانی و این‌که نفس انسانی به یک موجودی تعلق بگیرد، ضرورت دارد که مزاج انسانی شکل بگیرد. تا زمانی که مزاج انسانی شکل نگیرد، نفس انسانی بر آن تعلق نمی‌گیرد. به همین دلیل هوش مصنوعی در نظام طبیعت با حالت طبیعی و عادی هرگز شخص حقیقی نخواهد شد.
اما آیا شخص حقوقی می‌شود یا نه؟ ببینید شخص حقوقی یک مجموعه‌ای است که ما اعتبار می‌کنیم و شخصیت را برای آن در نظر می‌گیریم و بر اساس شخصیتی که برای آن در نظر گرفتیم، حقوق و تکالیفی را به آن انتساب می‌کنیم.
حقوق و تکالیف زمانی به یک شیء انتساب می‌شود که آن شیء دارای قدرت اراده و اختیار باشد. در شخص حقوقی مثل مؤسسات، شرکت‌ها، بانک‌ها، بیمه‌ها و غیره، اراده‌ی این‌ها در کجا شکل می‌گیرد؟ در نماینده‌شان و یا در هیئت حاکمه‌شان، هیئت مؤسس و هیئت مدیره‌شان. در آنجا اراده‌ای شکل می‌گیرد که این اراده با توجه به حوزه‌ی اختیارات این مؤسسه صورت می‌گیرد. چون اراده‌اش شکل می‌گیرد، خودبه‌خود فعل هم از آن سر می‌زند و متناسب با آن فعل دارای حقوق و تکالیفی خواهد شد.
حالا سؤال ما اینجاست که آیا چنین اراده‌ای در هوش مصنوعی شکل می‌گیرد یا نه؟
برای این‌که این اراده در آن شخص اعتباری و یا شخص حقوقی مثل شرکت و بانک شکل بگیرد، باز یک قوّه‌ی انسانی بود، یک نیروی انسانی فردی یا مجموعه‌ای بود که متناسب با حوزه‌ی اختیارات، حدود و شأنیت این مؤسسه تصمیمی گرفته که اراده‌ی آن مؤسسه شده است. آیا چنین چیزی در هوش مصنوعی هم شکل می‌گیرد؟ یعنی یک قوّه‌ی اراده‌ی انسانی باشد که یک فعلی را اراده کند و بعد بگوییم که این هوش مصنوعی آن را اراده کرد.
اگر آن قوّه‌ی اراده‌ی انسانی باشد، خودبه‌خود آن انسان تصمیم گرفته و او تصمیم نگرفته است. حالا در اینجا بحث می‌شود که این قوّه‌ی اراده در کجا شکل گرفته است؟ اگر یک انسان طبیعی و حقیقی بود که تصمیم گرفت و تصمیم و اراده‌ی این، تصمیم و اراده‌ی هوش مصنوعی شد، این دیگر مستقل نیست و وابسته به آن فرد است.
اگر یک مؤسسه بود، مثلاً بانک و یا شرکتی بود که تصمیمی گرفت و تصمیم آن، اراده‌ی هوش مصنوعی شد، باز این هوش مصنوعی ما مستقل نیست و وابسته به این شرکت و سازمان است.
یعنی در حقیقت دارای اراده‌ی مستقلی نیست که ما بگوییم این حق و این تکلیف به آن تعلق می‌گیرد، بلکه وابسته به آن سازمان، آن نهاد و یا به آن شخص و انسان است. در حقیقت آن که دارای حق و تکلیف است، آن انسان، شخص حقیقی، آن مؤسسه و سازمان، شخص حقوقی، یکی از این‌ها است. این یک چیز مستقل و جدا از آن‌ها نیست. اگر جدا از آن‌ها باشد، باید با یکی از این حالت‌ها آن را درست کنیم، یا نفس انسانی به آن تعلق کرده و یا خودش دارای نفس انسانی شده است و در غیر این صورت امکان‌پذیر نیست.
در حقوق غرب به دلایل مختلف، مثلاً از نگاه فلسفه‌ی تحلیلی یک وجود مستقل به آن داده‌اند و برای آن شخصیت قائل شده‌اند و به تبع آن در تعریف خودشان این را شخص حقوقی دانسته‌اند، در حالی که آن تعریفی که در فلسفه‌ی تحلیلی مطرح می‌شود در فضای مبانی ما و فلسفه‌ی ما جایگاهی ندارد؛ ما بر آن نقد داریم که در مباحث مربوط به فلسفه‌ی هوش مصنوعی باید بیان و نقد شود.
خلاصه‌ی ماجرا این است که حق و تکلیف به چه چیزی تعلق می‌گیرد؟ به آن کسی که دارای اراده‌ای باشد که آن اراده منجر به حق و تکلیف شود. حالا این اراده ممکن است مال نوع بشر باشد که حقیقی می‌شود و یا ممکن است یک سازمانی باشد که خودش دارای اراده‌ای هست، اراده‌ای که حاصل از اراده‌ی جمعی آن هیئت و مجموعه‌ای است که در آن سازمان کار می‌کنند، حالا ممکن است مجمع عمومی آن باشد، ممکن است هیئت مؤسس آن باشد، ممکن است هیئت مدیره‌ی آن باشد، ممکن است مدیرعامل و یا وکیلش باشد. من نمی‌خواهم روی این بخش ورود کنم. این اراده‌ای که در آنجا شکل می‌گیرد، این اراده، اراده‌ی سازمان می‌شود. در هوش مصنوعی کدام‌یک می‌خواهد شکل بگیرد؟
مجری: پس به این نتیجه رسیدیم که خود هوش مصنوعی اراده‌ی مستقلی ندارد و تابع یک اراده‌ی شخص حقیقی یا شخص حقوقی است، درست است؟ حالا ما به کدام‌یک از این‌ها قائل هستیم؟ یعنی اگر تابع شخص حقیقی یا تابع شخص حقوقی باشد، نتیجه چه خواهد شد؟ یعنی آیا برای خود این هوش مصنوعی شخصیتی قائل هستیم یا خیر؟ آیا تا زمانی که تابع این شخص حقیقی یا حقوقی هست، ما به این هوش مصنوعی شخصیت حقوقی اعطا می‌کنیم یا یک شخصیت سومی اعطاء می‌شود؟
ببینید هوش مصنوعی بما هو هوش مصنوعی، یعنی اگر خودش و خودش باشد، از نظر ما هیچ‌گونه شخصیتی ندارد.
با توجه به وابستگی آن در مرحله‌ی قبل به انسان یا مجموعه و سازمان، یک شخصیت وابسته پیدا می‌کند؛ لذا حقوق و تکلیفی که ما برای هوش مصنوعی مطرح می‌کنیم، اولاً و بالذات مربوط به مرحله‌ی ماقبل و آن سبب است، مال آن انسان و یا آن سازمان است، اگر هم به هوش مصنوعی نسبت می‌دهیم، ثانی بالعرَض است و حقیقی نیست. اولاً و بالذات مال آن است، یعنی خودش اصلاً چیزی نیست و شخصیت مستقلی ندارد. شخصیت مستقل مال ماقبل است و این به تبع و تابع آن است. مثل این است که من دستم را مصنوعی هوشمند گذاشته‌ام. شخصیت این دست هوشمند چطور است؟ شخصیت حاکم بر این دست هوشمند شخصیت نفس من است، پس خودش یک وجود مستقل ندارد، این هوش مصنوعی ممکن است متصل به جسم من باشد و ممکن است منفصل از جسم من باشد، مثل همان ربات‌هایی که می‌شناسیم. من از متصل مثال می‌زنم، منفصل هم مثل همین است. مثال متصل این است که دست من ربات است، یک دست مصنوعی هوشمند است. این دارای نفس مستقل نیست. نفس مستقل مال شخص من است و این دست بخشی از شخصیت من است. اگر مثل ربات باشد و جدا از من باشد، آن هم چنین حالتی دارد.
مجری: بسیار متشکر و ممنونم. آقای دکتر عندلیب، صحبت‌های خوبی صورت گرفت، سؤالی که پیش می‌آید این است که هوش مصنوعی که ساخته‌ی یک شخص حقیقی یا شخصیت حقوقی باشد، آیا تفاوتی هم دارد؟
- آقای عندلیب
ببینید ما در عین حال که برای شرکت‌های سازنده‌ی دستگاه‌های مبتنی بر هوش مصنوعی، شخصیت حقوقی قائل می‌شویم، برای این هوش مصنوعی که خودش هم یک تحلیل‌ها و تصمیم‌هایی دارد، می‌توانیم یک شخصیتی قائل شویم و یک‌سری مجازات‌هایی را برای خود همین دستگاه قرار دهیم.
برای مثال ما در آینده شاید زندان‌های مخصوص ربات‌ها داشته باشیم که این ربات‌های خاطی را در زندان‌های مخصوص خودشان مجازات کنیم و یا اقدامات به تعبیر امروز قانون‌گذار ما تربیتی - کنترلی متناسب با ربات‌ها داشته باشیم. این اشکالی ندارد که بتوان مجازات‌ها را برای خود این‌ها در نظر گرفت.
مجری: از جناب آقای دکتر عندلیب و جناب آقای دکتر سخاوتیان بسیار متشکر و ممنونم. بحث بسیار خوب و مورد ابتلای مردم و خصوصاً در مجامع علمی ما بود. ما در این برنامه پیرامون شخصیت مستقل حقوقی قابل اعطاء به هوش مصنوعی صحبت کردیم و از نظر حقوقی و از نظر فقهی بررسی کردیم که آیا می‌توان به هوش مصنوعی شخصیت مستقل حقوقی اعطاء کرد یا خیر؟ ما صحبت کردیم که با توجه به این‌که نگاه ما نسبت به هوش مصنوعی متفاوت است، اعطای شخصیت به هوش مصنوعی هم متفاوت خواهد بود.
مجری برنامه: مجید لاهیجانی امیری
تنظیم: محمد رسول صفری عربی
نظر شما