تصویب نخستین مجموعه جامع مقررات هوش مصنوعی در جهان در جمهوری کره
کره جنوبی آنچه را که«نخستین مجموعه جامع مقررات هوش مصنوعی در جهان» مینامد، یعنی "قانون اساسی هوش مصنوعی" را به تصویب رساند. هدف این قانون تضمین ایمنی، شفافیت و اعتماد در استفاده از هوش مصنوعی، در عین حمایت از رشد صنعت است.
استارتاپهای
این کشور هشدار میدهند که بار تکالیف انطباق و معیارهای مبهم میتوانند مانع
نوآوری شوند، حتی با وجود اینکه دولت راهنماها ارائه میدهد و دوره مهلت قبل از
شروع اجرا در نظر گرفته است.
محورهای اصلی قانون
قانون اساسی هوش مصنوعی کره جنوبی، سه هدف کلیدی دارد که در ظاهر ممکن است با هم در تنش باشند. از یک طرف، قانونگذاران میخواهند مطمئن شوند که فناوری هوش مصنوعی به شکل ایمن و قابل اعتماد استفاده میشود - یعنی نمیخواهند سیستمهای هوش مصنوعی تصمیمات تبعیضآمیز بگیرند، حریم خصوصی مردم را نقض کنند، یا به شیوههای غیرشفاف و مخفیانه عمل کنند. از طرف دیگر، دولت کره جنوبی کاملاً آگاه است که این کشور در رقابت جهانی با چین، ایالات متحده و اروپا برای رهبری در عرصه هوش مصنوعی قرار دارد، و نمیخواهد قوانین سختگیرانه باعث شوند که شرکتهای کرهای عقب بیفتند. بنابراین قانون تلاش میکند بین حمایت از مردم (از طریق ایمنی و شفافیت) و حمایت از صنعت (از طریق فضای مناسب برای نوآوری) تعادل برقرار کند.
اصل "شفافیت" در این قانون به این معنی است که سیستمهای هوش مصنوعی نباید جعبههای سیاه کاملاً مبهم باشند. کاربران و افرادی که تحت تأثیر تصمیمات هوش مصنوعی قرار میگیرند، باید بدانند که چگونه این سیستمها کار میکنند، بر اساس چه دادههایی تربیت داده شدهاند، و چه منطقی پشت تصمیماتشان است. مثلاً اگر یک بانک با استفاده از هوش مصنوعی درخواست وام شما را رد میکند، شما حق دارید بدانید چرا - آیا به خاطر سن شما بود؟ محل زندگی؟ تاریخچه مالی؟ این شفافیت هم برای جلوگیری از تبعیض مهم است و هم برای اینکه مردم بتوانند به این سیستمها اعتماد کنند.
اصل "ایمنی" نیز محوری است - یعنی سیستمهای هوش مصنوعی نباید خطرات غیرقابل قبولی برای سلامت، امنیت، یا حقوق بنیادین انسانها ایجاد کنند. این میتواند شامل ایمنی فیزیکی (مثلاً خودروهای خودران نباید تصادف کنند)، ایمنی سایبری (سیستمهای هوش مصنوعی نباید قابل هک و سوءاستفاده باشند)، و ایمنی اجتماعی (نباید باعث تبعیض سیستماتیک شوند) باشد.
نگرانیهای استارتاپها
اما استارتاپها و شرکتهای کوچک کره جنوبی نگرانیهای جدی دارند. مشکل اول "بار تکالیف انطباق" است. برای اینکه یک شرکت بتواند ثابت کند که سیستم هوش مصنوعیاش شفاف و ایمن است، باید منابع قابل توجهی صرف کند: باید تیم حقوقی داشته باشد که قانون را تفسیر کند، تیم فنی که مستندات فنی تهیه کند، باید ممیزیهای امنیتی انجام دهد، گزارشهای منظم به دولت ارائه کند، و شاید حتی گواهینامههای خاصی اخذ کند. برای شرکتهای بزرگ مثل سامسونگ یا نیور (Naver، گوگل کره جنوبی)، این هزینهها قابل تحمل است. اما برای یک استارتاپ سهنفره که تازه یک محصول جدید دارد توسعه میدهد، این بار میتواند کشنده باشد - ممکن است بودجهای که باید صرف تحقیق و توسعه میکردند، مجبور شوند صرف وکیل و مشاور انطباق کنند.
مشکل دوم "معیارهای مبهم" است. وقتی قانون میگوید "سیستم شما باید شفاف باشد"، دقیقاً چه معنایی دارد؟ چقدر شفاف؟ آیا کافی است که بگویید "ما از یادگیری ماشین استفاده میکنیم" یا باید دقیقاً الگوریتم و وزنهای شبکه عصبی را منتشر کنید؟ وقتی میگوید "ایمن باشد"، منظور چه سطحی از ایمنی است؟ 99% دقت؟ 99.9%؟ چه کسی این را تعیین میکند؟ این ابهام باعث میشود شرکتها نتوانند با قطعیت برنامهریزی کنند. ممکن است یک شرکت میلیونها دلار روی یک پروژه سرمایهگذاری کند و بعد بفهمد که تفسیر دولت از "شفافیت" با تفسیر آنها فرق دارد و باید همه چیز را از نو طراحی کنند. این عدم قطعیت خودش بزرگترین مانع نوآوری است - چون استارتاپها با ریسکپذیری کار میکنند و اگر ریسک حقوقی را هم به ریسکهای فنی و بازار اضافه کنید، سرمایهگذاران ممکن است اصلاً حاضر نباشند پول بگذارند.
پاسخ دولت
دولت کره جنوبی البته کاملاً غافل نیست و تلاش میکند این نگرانیها را برطرف کند. یکی از راهکارها ارائه "راهنماها" است - یعنی اسنادی که به زبان سادهتر و با مثالهای عملی توضیح میدهند که چگونه قانون را اجرا کنید. مثلاً ممکن است یک راهنما بگوید: "برای شفافیت در سیستمهای توصیهگر محصول، حداقل باید به کاربر بگویید که توصیه بر اساس تاریخچه خرید او، محبوبیت عمومی محصول، و حاشیه سود شما است." این راهنماها قانونی نیستند و الزامآور نیستند، اما به شرکتها کمک میکنند بفهمند که انتظار دولت چیست و چگونه میتوانند از مشکل دور بمانند.
مهمتر از آن، دولت یک "دوره مهلت" یا grace period در نظر گرفته. این یعنی قانون الان تصویب شده و منتشر شده، اما مثلاً تا شش ماه یا یک سال دیگر (بسته به بخشهای مختلف قانون) اجرا نمیشود و جریمهای وجود ندارد. در این مدت، شرکتها فرصت دارند که سیستمهایشان را بررسی کنند، آموزش ببینند، مشاور استخدام کنند، و خودشان را آماده کنند. همچنین معمولاً در این دورهها، دولت تعامل نزدیکتری با صنعت دارد - جلسات برگزار میشود، نظرات جمعآوری میشود، و حتی ممکن است بخشهایی از قانون یا آییننامههای اجرایی بر اساس بازخوردها اصلاح شوند.
چالش تعادل
در نهایت، قانون کره جنوبی نشاندهنده یک دوراهی است که تمام کشورها با آن روبرو هستند: اگر قوانین خیلی سختگیرانه باشند، نوآوری کند میشود و شرکتها به کشورهای با قوانین سهلتر مهاجرت میکنند (regulatory arbitrage). اما اگر هیچ قانونی نباشد، ممکن است شاهد سوءاستفادهها، تبعیض سیستماتیک، نقض حریم خصوصی، و در نهایت از دست دادن اعتماد عمومی به هوش مصنوعی باشیم - که خودش میتواند به واکنشهای شدید عمومی و قوانین بسیار سختگیرانهتر در آینده منجر شود. کره جنوبی با این قانون "اساسی" (یعنی چارچوبی و کلی، نه بسیار جزئی) تلاش میکند مسیر میانهای پیدا کند: اصول کلی را تعیین کند، اما جزئیات را به آییننامههای اجرایی و راهنماها واگذار کند که میتوانند سریعتر و انعطافپذیرتر با تحولات فناوری همگام شوند.
