وب سایت رسمی دکتر طاهر حبیب زاده

دکتر طاهر حبیب زاده، دانش‌آموخته دکتری حقوق فناوری اطلاعات از انگلستان، عضو هیات علمی دانشگاه امام صادق (ع)، مولف مجموعه کتب ‌حقوق فناوری اطلاعات و برگزیده جشنواره بین المللی فارابی در علوم انسانی، در گفتگویی مشروح با روزنامه جوان به سوالات مهمی در زمینه آینده علم حقوق و فناوری هوش مصنوعی پاسخ داده است. به اعتقاد وی، هوش مصنوعی، نه امروز و نه فردا، هرگز نمی‌تواند جایگزین قطعی انسان‌ها شود و از جمله دلیل آن قدرت تعقل و درک معنایی است که انسان دارد و هوش مصنوعی فاقد چنین توانمندی است.

ماحصل این گفتگو را در ادامه بخوانید:

هوش مصنوعی فعلی «ماشین حسابِ کلمات» است

جوان: هوش مصنوعی همان چیزی است که امروز در دسترس عموم مردم است یا تعاریف دیگری هم دارد؟

دکتر طاهر حبیب زاده: باید هوش مصنوعی که اینک در عمل استفاده می شود از هوش مصنوعی که ایده پردازان در صدد توسعه آن هستند، تفکیک کنیم. هوش مصنوعی که الان استفاده می کنیم تقریباً یک موتور جستجوی قدرتمند و اما هوشمند است، نه یک نرم افزار متفکر که توانایی خلق داده به معنای واقعی کلمه دارد. در واقع صحبت از هوش مصنوعی در هرکدام از این دو حوزه متفاوت است. هوش مصنوعی بالفعل با هوش مصنوعی بالقوه‌ متفاوت خواهد بود. هوش مصنوعیِ بالفعل امروز، فاقد توانایی تعقل و فهم و درک معناست، یعنی اگر به او سلام دهید به شما سلام می دهد، اما سوال این جاست که آیا الان این هوش مصنوعی مثل یک انسان می فهمد که گفتن «سلام» در مقابل «سلام» به چه معنی است یا فقط به طور ماشینی در مقابل «سلام» می گوید «سلام»؟! وقتی به هوش مصنوعی می‌گوییم «مفهوم کلمه سلام را درک می کنید» می گوید «من قدرت تعقل و درک معنا ندارم». هوش مصنوعی بالفعل امروز فاقد قدرت تعقل و درک معنا و النهایه تحلیل معنی محور (نه مطلق تحلیل) است، چراکه تحلیل معنی محور مبتنی بر درک معنا است؛ یعنی اگر یک موجودیتی مثل انسان یا هوش مصنوعی در آینده نتواند متن را بفهمد، توان تحلیل معنامحور و فهم محور را هم ندارد. به نظر بنده و با در نظرگرفتن جرقه اصلی خلق چنین موجودیت رایانه ای، «هوش مصنوعی فعلی ماشین حسابِ کلمات است» و این دقیق ترین عبارتی است که در حال حاضر می توان برای معرفی هوش مصنوعی ارائه کرد. همانطور که ماشین حساب فرق بین اعداد را نمی فهمد، هوش مصنوعی نیز بار معنایی کلمات را نمی داند و تنها با توجه به الگوریتم خود یک خروجی منطقی نمایه می کند.

هوش مصنوعی فاقد احساسات، باور، وجدان و اعتقاد است

جوان: سندیت هوش مصنوعی به کجا و چه زمانی بر می گردد یا بهتر است بگوییم مبتکر اولیه آن چه کسی بود؟

دکتر طاهر حبیب زاده: مشهور است برای اولین بار در سال ۱۹۶۹ میلادی، آلن تورینگ انگلیسی (ریاضی دان و دانشمند علوم رایانه) روی این ایده کار کرد که «آیا ماشین ها می توانند فکر کنند؟‌» اگر همین عبارت را در گوگل جستجو کنید نوشتار آلن تورینگ را خواهید دید. در واقع وی مبتکر اولیه داستان هوش مصنوعی است اما به نتیجه دلخواه نرسید. بعدها یک تیم آمریکایی دیگر با سردمداری جان مک کارتی (دانشمند علوم رایانه) توانست این کار را تا حدودی پیش ببرد و اولین بار عبارت هوش مصنوعی را ضرب کند. به همین دلیل در برخی نوشته ها به پدر هوش مصنوعی معروف شده است. در واقع وی در صدد ابداعی روی محتوا بود، مشابه همان ماشین حسابی که برای اعداد اختراع شده است.

خروجی هوش مصنوعی در علوم نظری نمی تواند مورد استناد قرار بگیرد

جوان: با توجه به کیفیت عملکرد هوش مصنوعی، در کدام حوزه ها می تواند وارد شود و مورد استناد قرار گیرد؟

دکتر طاهر حبیب زاده: هوش مصنوعی می تواند در حوزه های وسیعی از فعالیت های انسانی به کار گرفته شود، از صحنه جنگ تا عملیات پزشکی و تحلیل محتوی در رشته های مختلف علوم انسانی، همانطور که همینک نیز مورد استفاده قرار می گیرد. اما با توجه به ماهیت عمکرد آن، در علوم انسانی، در حد استمزاج یعنی در حد یک نظرخواهی کلی و اخذ مشاوره می تواند به ما کمک می کند و سرنخ های قابل استفاده بدهد، نه در حدی که بتوانیم به حرف ها و تحلیل های آن استناد کنیم، چراکه صرفا الگوریتمی است که می تواند در متن های مختلف، روی واژه ها پردازش کند و یک خروجی نشان دهد. البته از قضا در موارد قابل توجه، همین خروجی نیز خطا آمیز است. در واقع هوش مصنوعی می تواند در علوم نظری مورد استفاده قرار گیرد، اما خروجی آن نمی تواند مورد استناد قرار بگیرد. بین «استفاده» و«استناد» تفاوت معناداری وجود دارد.

هوش مصنوعی به دلیل داده های ورودی خطاآمیز و الگوریتم سوگیرانه و جانبدارانه «خروجی خطاآمیز» دارد

جوان: دلیل خطای هوش مصنوعی چیست؟

دکتر طاهر حبیب زاده: این فناوری علی رغم هوشمندی بالا، قدرت تعقل و درک معنا ندارد و خروجی آن به سه دلیل خطا آمیز بوده که ثابت هم شده است. اول، ورودی های (داده های) هوش مصنوعی خطا دارد، لذا طبیعتاً خروجی هم به دنبال آن خطا خواهد داشت. اینترنت پر از داده های خطاآمیز، گزاره های اثبات نشده و پر از فرضیه های علمی است (نه نظریه های علمی). در نتیجه مواد خام هوش مصنوعی هم همین ها است که با پردازش آنها، خروجی نیز خطاآمیز خواهد داشت.
دوم، گاهی الگوریتم هوش مصنوعی «جانبدارانه» و «سوگیرانه» نوشته می شود، البته نه همیشه، اما در مواردی ثابت شده و نمونه های عینی دارد. به عنوان نمونه، در یک بیمارستانی در آمریکا به هوش مصنوعی ماموریت دادند که حق ویزیت بیماران را حساب کند، اما بعد از مدتی دیدند که هوش مصنوعی حق بیمه سفیدپوستان را دو برابر سیاه پوستان حساب می کند و تبعیض قائل می شود. علت را جویا و متوجه شدند الگوریتم هوش مصنوعی جانبدارانه نوشته شده است. مثال دیگر، در مورد عفو مجرمان در دادگاه یکی از ایالات آمریکا است. اسامی متقاضیان عفو به هوش مصنوعی جهت بررسی صلاحیت های لازم سپرده شد، اما هوش مصنوعی قوانین راجع به عفو را تحلیل و نسبت به سیاه پوستان در مقایسه با سفیدپوستان سختگیرانه عمل می کند!
سوم، هوش مصنوعی به دلیل عدم درک معنی، گاهی خروجی غیرمنتظرانه نشان می دهد و متوجه سوال نمی شود. فی المثل، از هوش مصنوعی سوال شد «جرم چیست؟» در پاسخ به جای تعریف حقوقی از جرم، سخن از وزن و چگالی کرد که در علم فیزیک مطرح است و تفاوت جُرم را با جِرم متوجه نشد و حتی سوال نکرد منظور شما جُرم است یا جِرم؟!

نظریه «عصمت هوش مصنوعی» مخدوش است

جوان: تضمینی برای ارائه درست داده‌ها به آن و خروجی صحیح وجود دارد؟

دکتر طاهر حبیب زاده: ممکن است سوال شود حال که هوش مصنوعی با سرعت و دقت بسیار بالا نظر می دهد، دیگر چه نیازی به مرجع تقلید؟! آیا هوش مصنوعی نمی تواند فتوی دهد؟! یا در مسائل قضایی، آیا بهتر نیست هوش مصنوعی، رای صادر کند و مانع از اطاله دادرسی شود؟! ما با پدیده ای مواجه هستیم که سه منشاء خطا دارد و در سوال قبلی اشاره شد. لذا «نظریه عصمت هوش مصنوعی» از نظر اجرایی و فنی مخدوش است. هوش مصنوعی فقط در یک چیز عصمت دارد و بَری از خطا است و آن هم در اجرای الگوریتمی است که برای آن نوشته شده است؛ یعنی هوش مصنوعی دقیقا همان الگوریتمی را اجرا می کند که برای آن نوشته شده است. با این حال، اگر الگوریتم آن جانبدارانه نوشته شده باشد، جانبدارانه عمل می کند و اگر الگوریتم آن منطقی نوشته شده باشد منطقی عمل می کند و تخطی نخواهد کرد. از آن جا که خود درک معنا ندارد و از آن جایی که ممکن است داده های ورودی خطا آمیز باشد، خروجی آن دست کم در مواردی خطا آمیز خواهد بود، حتی اگر الگوریتم آن منطقی و بدون سوگیرانه نوشته شده باشد. علاوه بر این، در مواردی، صدور حکم از سوی «انسان» موضوعیت دارد و نه طریقیت، از جمله در صدور احکام شرعی از سوی مرجع تقلید واجد الشرایط و صدور حکم قضایی توسط قاضی واجد الشرایط؛ مساله فقط دقت و سرعت بالای صدور حکم نیست، بلکه صادرکننده حکم حتما باید انسان باشد و این یک مبنای محکم در نظر شارع دارد. برخورداری از شانیت صدور حکم، شعبه ای از ولایت است و مسئولیت دنیوی و اخروی برای صادر کننده دارد، که این خصایص در مورد هوش مصنوعی به هیچ وجه قابل تصور نیست. حتی اگر هوش مصنوعی بتواند بهترین حکم را صادر کند، در نهایت قطعا باید یک انسان پای حکم را امضا و ابلاغ کند.

کاربرد هوش مصنوعی فقط در حد «مشورت دادن» به قاضی است

جوان: حالا به سراغ علم حقوق برویم، با این توضیحات هوش مصنوعی کجا می تواند در عالم حقوق کاربرد داشته باشد؟

دکتر طاهر حبیب زاده: فعلا هوش مصنوعی توسعه یافته مختص عالم حقوق نداریم و اهالی حقوق از همان هوش مصنوعی هایی که در دسترس عموم است، استفاده می کنند. با ذکر این نکته که داده های انگلیسی هوش مصنوعی بسیار قوی تر از داده های فارسی آن است؛ اگر سوالات به زبان انگلیسی مطرح شود، خروجی مفصل تر و پر استنادتر خواهد شد.
لازم است ذکر شود که قوه قضائیه روی پروژه ای تحت عنوان «دستیار هوشمند قاضی» کار می کند و ظاهرا الگوریتم مربوط به پرونده های مرتبط با تصادفات تمام شده و الان در حال کار بر روی پرونده های جرایم توهین و سرقت است. هدف این است که با توجه به داده های موجود در قوه قضاییه، با تحلیل مفاد آرائی که قبلاً در این حوزه ها صادر شده، حالات تحقق جرم، دفاعیات صورت گرفته، تحلیل قاضی و استنادات وی و خروجی نهایی رای، به قضات کمک شود تا بتوانند با سرعت بیشتر و دقت بالاتری به یک رأی منطقی برسند. البته باید توجه داشت که اسم آن را هم «دستیار هوشمند قاضی» گذاشتند، نه «قاضی هوشمند»، چرا که خود آن ها به نیکی توجه دارند که هوش مصنوعی فقط در حد مشورت به قاضی قابلیت استفاده دارد نه در جایگاه قاضی. حتی در حوزه پژوهش که گاهی بسیار تحسین برانگیز عمل می کند، حتما یک متخصص حوزه مربوطه می بایست بازبینی و تایید نهایی کند.

کاربرد هوش مصنوعی برای قضات از جمله حل معماهای پیچیده و پیدا کردن تعارض اظهارات طرفین و پیدا کردن مستندات قانونی

جوان: هوش مصنوعی چه کاربردهایی دیگری برای قضات دادگاه ها می تواند داشته باشد؟

دکتر طاهر حبیب زاده: مواردی چون پیشنهاد پیش نویس رأی قاضی بر اساس آرا سابق، دریافت مشاوره های حقوقی، دریافت پیشنهاد مواد قانونی قابل استناد در یک پرونده (اگر همه داده های حقوقی معتبررا به آن داده باشیم) حل کردن معماهای سخت کارآگاه ها، پیدا کردن تعارض اظهارات طرفین و لوایح آن ها، پیدا کردن آراء مرتبط قبلی.

هوش مصنوعی ممکن است «اطاله دادرسی» به دنبال داشته باشد!

جوان: آیا هوش مصنوعی در حین استفاده در حوزه قضاوت، می تواند کاربرد منفی هم داشته باشد؟

دکتر طاهر حبیب زاده: ممکن است بر خلاف تصوراتی که وجود دارد، هوش مصنوعی موجب اطاله دادرسی شود. یعنی دادرسی های ما از الان هم طولانی تر شود. ممکن است هوش مصنوعی فروعاتی باز کند که قاضی در گذشته به آنها توجه نداشته است. فی المثل، قاضی رسیدگی کننده به پرونده های توهین، یک ساختار مشخص در ذهن دارد، اما وقتی هوش مصنوعی دست رویِ فروعات جدید می گذارد، باید اول جواب آنها را پیدا کند تا با وجدان آسوده رای دهد. اگر قاضی به آنها توجهی نکند، ممکن است وجدانش مخدوش شود و اگر توجه کند، ممکن است اطاله دادرسی به دنبال آورد.

هوش مصنوعی نه الان و نه هیچ زمانی جایگزین قطعی انسان نخواهد شد

جوان: خیلی ها شاید گمان کنند هوش مصنوعی می تواند جای انسان را بگیرد؛ اما نظر به صحبت های شما مبتنی بر اینکه هوش مصنوعی فاقد احساس و درک است، نمی تواند جایگزین انسان، نه الان و نه هیچ زمان دیگری باشد؟

دکتر طاهر حبیب زاده: هوش مصنوعی نه الان و نه هیچ زمانی جایگزین قطعی انسان نخواهد شد؛ بله، ممکن است در برخی از حوزه ها جانشین انسان شود، اما نه در همه حوزه ها، مخصوصا در حوزه های سیال و نظریه ای و تفکری، که هوش مصنوعی در حد مشاور می تواند نظردهی کند. آیا تا به حال دقت کرده اید، چرا نمی گوییم وجدان مصنوعی، قلب مصنوعی، نفس مصنوعی، جان مصنوعی، عقل مصنوعی، فکر مصنوعی؟ و می گوییم هوش مصنوعی؟ همه فعالان هم بر به کارگیری این عبارت اخیر تاکید دارند. چراکه هوش مصنوعی قدرت محاسبه گری انسان را شبیه سازی می کند، و بقیه توانمندی های انسان در اختیار او نیست و قابلیت شبیه سازی این خصایص انسانی هیچ موقع وجود ندارد، مثل وجدان و جان و روح و قلب. فاقد وجدان بودن هوش مصنوعی و دوری از آگاهی درونی در اسناد اتحادیه اروپا نیز تکرار شده است به طوری که از سال 2017 میلادی تا سال 2024 اتحادیه اروپا بیش از بیست سند مختصر یا مفصل در حوزه هوش مصنوعی تنظیم کرده است. در سند اول (2017) از عبارت شخصیت الکترونیکی (electronic personality) یادکرده است و معتقد بود باید به هوش مصنوعی مثل انسان، شخصیت ببخشیم. پیرو نامه های متعدد متخصصین در سند آخر از این موضع خود صریحا عدول کرده و بارها و بارها تاکید کرده که ما هوش مصنوعی را به دور از شخصیت بخشی پیش می بریم، چراکه دارای درک و وجدان باطنی نیست.

کاربرد هوش مصنوعی برای وکلا از جمله تخمین موفقیت در یک پرونده

جوان: هوش مصنوعی در مقام وکالت به کجا خواهد رسید؟

دکتر طاهر حبیب زاده: در چند مورد مهم قابل استفاده است: پیدا کردن رویکرد سابق محاکم، تدوین پیش نویس لوایح و دفاعیات وکلا (در حد سرنخ گرفتن و استمزاج)، پیش بینی خروجی دادگاه با توجه به وقایع پرونده و کیفیت جلسات دادرسی های برگزار شده، امکان سنجی میزان موفقیت یک پرونده قبل از طرح دعوا. البته چنین بهره وری مستلزم توسعه هوش مصنوعی تخصصی و پیشرفته در حوزه حقوق است و با هوش مصنوعی های عمومی به نحو مطلوب امکان پذیر نیست.

هوش مصنوعی قادر به تفکیک مفاهیمی چون «عدالت» از «انصاف» نیست

جوان: در حال حاضر وضعیت فعلی هوش مصنوعی در عالم حقوق، بعدها هم در همین حد باقی می ماند یا تغییر می کند؟

دکتر طاهر حبیب زاده: آینده را می بایست در آینده قضاوت کرد. اما پیش بینی بنده این است با توجه به اینکه هوش مصنوعی قدرت درک تمام معنا را بماهو نخواهد داشت، در آینده هم وضعیت همینگونه است. اهالی فنی تا جایی که بنده گفتگو کرده ام، معتقدند خیلی از مفاهیم حقوق قابل نوشتن در قالب الگورتیم نیست، مثل «تفسیر بر اساس حسن نیت»، «کشف قصد طرفین» یا «رعایت عدالت و انصاف»؛ در نتیجه باید پرسید آیا هوش مصنوعی قادر به رعایت عدالت در تصمیم خود است؟! در واقع مفهوم عدالت و انصاف قابل شاخصه بندی نیست تا در قالب الگوریتم ریخته شود و از آنجایی که مفاهیم عالم حقوق صرفا برای موجودیتی مثل انسان قابل درک و معناست، که گاهی انسان ها هم اختلاف در برداشت معانی دارند، رشد هوش مصنوعی در این حوزه چندان فراتر از این نخواهد رفت، یا دست کم به نقطه ایده آل در حوزه علم حقوق نخواهد رسید. در نهایت، ممکن است هوش مصنوعی در آینده قوی تر از حالا عمل کند، اما خروجی آن مستلزم بازبینی و تایید یک نیروی حقوقی انسانی است.

در قوانین فعلی ایران هوش مصنوعی صراحتا دارای شخصیت حقوقی نیست

جوان: با قوانین فعلی موجود در کشور، وضعیت هوش مصنوعی در ایران نیازمند چارچوب مشخص است؟

دکتر طاهر حبیب زاده: در عالم حقوق و تقنین ما آینده پژوهی جهت قاعده گذاری پیشینی نمی‌کنیم. ابتدا باید حدود و ثغور فناوری معین شود و سپس طبق چیستی و اوصاف آن قانونگذاری و سیاست گذاری صورت گیرد. حال این فناوری در سال های اخیر آمده است . هنوز تصمیم سازان در حال شناخت زوایای دقیق آن هستند. در این میان، به لحاظ حقوقی، از جمله سوالات کلیدی، کیفیت انتساب افعال و اقدامات و خروجی عملکرد هوش مصنوعی است.
در بحث انتساب، از منظر حقوقی، ما با مفهوم شخصیت روبه رو می شویم، چراکه در عالم حقوق انتساب نهایی یک اقدام فقط به شخص ممکن است، تا بتوان تکلیف و مسئولیت در قبال آن خواست. انتساب به موجودیتی که فاقد «شخصیت» است، بی معنی است. قانونگذار بگوید آیا هوش مصنوعی دارای شخصیت است یا خیر، تا بتوانیم حقی را به او بدهیم یا مسئولتی از آن بخواهیم. به طور کلی، از قوانین موجود ایران از جمله ماده ۲ قانون تجارت الکترونیکی ۱۳۸۲ در تعریف «شخص»، به جهت خودمختاری مختصر (نه خودکاری صرف) که هوش مصنوعی دارد، این بر نمی آید که هوش مصنوعی دارای شخصیت است، که البته تحلیل تخصصی مجزایی می طلبد.

۷ سال از متوسط جهانی توسعه هوش مصنوعی عقب هستیم

جوان: پیشنهاد شما به قانوگذار ایران چیست؟

دکتر طاهر حبیب زاده: قانونگذار ما باید موضع خود را در مورد شخصیت هوش مصنوعی و مسئولیت پذیری آن مشخص کند. مالکیت داده های تولیدی توسط هوش مصنوعی برای کیست یا چیست؟! برای هوش مصنوعی یا سازندگان آن و یا خود کاربری که با سوال خود زمینه خلق داده را ایجادکرده است؟ کیفیت حفاظت از حریم خصوصی اشخاص در استفاده از هوش مصنوعی چگونه است؟ در توسعه هوش مصنوعی، شرکت های دانش بنیان و برنامه نویسان این حوزه، کدام چارچوب ها را باید رعایت کنند از جهت ارزش های حاکم بر فرهنگ جامعه، اخلاق و سایر موارد، و شرایط و دامنه مسئولیت آنها تا کجاست؟ همچنین، شرایط در دسترس بودن هوش مصنوعی های خارجی در ایران را مشخص کنند.
البته در «سند ملی هوش مصنوعی ۱۴۰۳» مصوب شورای عالی انقلاب فرهنگی، افق ده سال آینده ایران سیاست گذاری شده است؛‌ لکن نیازمند قوانین تفصیلی و مقررات جزئی هستیم. اخیرا گزارشی با عنوان «شاخص هوش مصنوعی ایران ۱۴۰۳» توسط پژوهشگران در دانشگاه صنعتی شریف تدوین شده است که از منظر ۷ شاخص وضعیت هوش مصنوعی ایران را با سایر کشورها مقایسه کرده و ذکر شده است که حدود ۷ سال از متوسط جهانی عقب هستیم و این یعنی محتاج کار و سرمایه گذاری بسیار بیشتری در این حوزه هستیم.