تصویب نخستین مجموعه جامع مقررات هوش مصنوعی در جهان در جمهوری کره

کره جنوبی آنچه را که«نخستین مجموعه جامع مقررات هوش مصنوعی در جهان» می‌نامد، یعنی "قانون اساسی هوش مصنوعی" را به تصویب رساند. هدف این قانون تضمین ایمنی، شفافیت و اعتماد در استفاده از هوش مصنوعی، در عین حمایت از رشد صنعت است.

استارتاپ‌های این کشور هشدار می‌دهند که بار تکالیف انطباق و معیارهای مبهم می‌توانند مانع نوآوری شوند، حتی با وجود اینکه دولت راهنماها ارائه می‌دهد و دوره مهلت قبل از شروع اجرا در نظر گرفته است.

محورهای اصلی قانون

قانون اساسی هوش مصنوعی کره جنوبی، سه هدف کلیدی دارد که در ظاهر ممکن است با هم در تنش باشند. از یک طرف، قانون‌گذاران می‌خواهند مطمئن شوند که فناوری هوش مصنوعی به شکل ایمن و قابل اعتماد استفاده می‌شود - یعنی نمی‌خواهند سیستم‌های هوش مصنوعی تصمیمات تبعیض‌آمیز بگیرند، حریم خصوصی مردم را نقض کنند، یا به شیوه‌های غیرشفاف و مخفیانه عمل کنند. از طرف دیگر، دولت کره جنوبی کاملاً آگاه است که این کشور در رقابت جهانی با چین، ایالات متحده و اروپا برای رهبری در عرصه هوش مصنوعی قرار دارد، و نمی‌خواهد قوانین سختگیرانه باعث شوند که شرکت‌های کره‌ای عقب بیفتند. بنابراین قانون تلاش می‌کند بین حمایت از مردم (از طریق ایمنی و شفافیت) و حمایت از صنعت (از طریق فضای مناسب برای نوآوری) تعادل برقرار کند.

اصل "شفافیت" در این قانون به این معنی است که سیستم‌های هوش مصنوعی نباید جعبه‌های سیاه کاملاً مبهم باشند. کاربران و افرادی که تحت تأثیر تصمیمات هوش مصنوعی قرار می‌گیرند، باید بدانند که چگونه این سیستم‌ها کار می‌کنند، بر اساس چه داده‌هایی تربیت داده شده‌اند، و چه منطقی پشت تصمیماتشان است. مثلاً اگر یک بانک با استفاده از هوش مصنوعی درخواست وام شما را رد می‌کند، شما حق دارید بدانید چرا - آیا به خاطر سن شما بود؟ محل زندگی؟ تاریخچه مالی؟ این شفافیت هم برای جلوگیری از تبعیض مهم است و هم برای اینکه مردم بتوانند به این سیستم‌ها اعتماد کنند.

اصل "ایمنی" نیز محوری است - یعنی سیستم‌های هوش مصنوعی نباید خطرات غیرقابل قبولی برای سلامت، امنیت، یا حقوق بنیادین انسان‌ها ایجاد کنند. این می‌تواند شامل ایمنی فیزیکی (مثلاً خودروهای خودران نباید تصادف کنند)، ایمنی سایبری (سیستم‌های هوش مصنوعی نباید قابل هک و سوءاستفاده باشند)، و ایمنی اجتماعی (نباید باعث تبعیض سیستماتیک شوند) باشد.

نگرانی‌های استارتاپ‌ها

اما استارتاپ‌ها و شرکت‌های کوچک کره جنوبی نگرانی‌های جدی دارند. مشکل اول "بار تکالیف انطباق" است. برای اینکه یک شرکت بتواند ثابت کند که سیستم هوش مصنوعی‌اش شفاف و ایمن است، باید منابع قابل توجهی صرف کند: باید تیم حقوقی داشته باشد که قانون را تفسیر کند، تیم فنی که مستندات فنی تهیه کند، باید ممیزی‌های امنیتی انجام دهد، گزارش‌های منظم به دولت ارائه کند، و شاید حتی گواهینامه‌های خاصی اخذ کند. برای شرکت‌های بزرگ مثل سامسونگ یا نیور (Naver، گوگل کره جنوبی)، این هزینه‌ها قابل تحمل است. اما برای یک استارتاپ سه‌نفره که تازه یک محصول جدید دارد توسعه می‌دهد، این بار می‌تواند کشنده باشد - ممکن است بودجه‌ای که باید صرف تحقیق و توسعه می‌کردند، مجبور شوند صرف وکیل و مشاور انطباق کنند.

مشکل دوم "معیارهای مبهم" است. وقتی قانون می‌گوید "سیستم شما باید شفاف باشد"، دقیقاً چه معنایی دارد؟ چقدر شفاف؟ آیا کافی است که بگویید "ما از یادگیری ماشین استفاده می‌کنیم" یا باید دقیقاً الگوریتم و وزن‌های شبکه عصبی را منتشر کنید؟ وقتی می‌گوید "ایمن باشد"، منظور چه سطحی از ایمنی است؟ 99% دقت؟ 99.9%؟ چه کسی این را تعیین می‌کند؟ این ابهام باعث می‌شود شرکت‌ها نتوانند با قطعیت برنامه‌ریزی کنند. ممکن است یک شرکت میلیون‌ها دلار روی یک پروژه سرمایه‌گذاری کند و بعد بفهمد که تفسیر دولت از "شفافیت" با تفسیر آن‌ها فرق دارد و باید همه چیز را از نو طراحی کنند. این عدم قطعیت خودش بزرگترین مانع نوآوری است - چون استارتاپ‌ها با ریسک‌پذیری کار می‌کنند و اگر ریسک حقوقی را هم به ریسک‌های فنی و بازار اضافه کنید، سرمایه‌گذاران ممکن است اصلاً حاضر نباشند پول بگذارند.

پاسخ دولت

دولت کره جنوبی البته کاملاً غافل نیست و تلاش می‌کند این نگرانی‌ها را برطرف کند. یکی از راهکارها ارائه "راهنماها" است - یعنی اسنادی که به زبان ساده‌تر و با مثال‌های عملی توضیح می‌دهند که چگونه قانون را اجرا کنید. مثلاً ممکن است یک راهنما بگوید: "برای شفافیت در سیستم‌های توصیه‌گر محصول، حداقل باید به کاربر بگویید که توصیه بر اساس تاریخچه خرید او، محبوبیت عمومی محصول، و حاشیه سود شما است." این راهنماها قانونی نیستند و الزام‌آور نیستند، اما به شرکت‌ها کمک می‌کنند بفهمند که انتظار دولت چیست و چگونه می‌توانند از مشکل دور بمانند.

مهم‌تر از آن، دولت یک "دوره مهلت" یا grace period در نظر گرفته. این یعنی قانون الان تصویب شده و منتشر شده، اما مثلاً تا شش ماه یا یک سال دیگر (بسته به بخش‌های مختلف قانون) اجرا نمی‌شود و جریمه‌ای وجود ندارد. در این مدت، شرکت‌ها فرصت دارند که سیستم‌هایشان را بررسی کنند، آموزش ببینند، مشاور استخدام کنند، و خودشان را آماده کنند. همچنین معمولاً در این دوره‌ها، دولت تعامل نزدیک‌تری با صنعت دارد - جلسات برگزار می‌شود، نظرات جمع‌آوری می‌شود، و حتی ممکن است بخش‌هایی از قانون یا آیین‌نامه‌های اجرایی بر اساس بازخوردها اصلاح شوند.

چالش تعادل

در نهایت، قانون کره جنوبی نشان‌دهنده یک دوراهی است که تمام کشورها با آن روبرو هستند: اگر قوانین خیلی سخت‌گیرانه باشند، نوآوری کند می‌شود و شرکت‌ها به کشورهای با قوانین سهل‌تر مهاجرت می‌کنند (regulatory arbitrage). اما اگر هیچ قانونی نباشد، ممکن است شاهد سوءاستفاده‌ها، تبعیض سیستماتیک، نقض حریم خصوصی، و در نهایت از دست دادن اعتماد عمومی به هوش مصنوعی باشیم - که خودش می‌تواند به واکنش‌های شدید عمومی و قوانین بسیار سخت‌گیرانه‌تر در آینده منجر شود. کره جنوبی با این قانون "اساسی" (یعنی چارچوبی و کلی، نه بسیار جزئی) تلاش می‌کند مسیر میانه‌ای پیدا کند: اصول کلی را تعیین کند، اما جزئیات را به آیین‌نامه‌های اجرایی و راهنماها واگذار کند که می‌توانند سریع‌تر و انعطاف‌پذیرتر با تحولات فناوری همگام شوند.

 

https://www.reuters.com/world/asia-pacific/south-korea-launches-landmark-laws-regulate-ai-startups-warn-compliance-burdens-2026-01-22/

تازه‌های بین‌المللی حقوق اساسی چهاردهم فروردین 1400

1) شهروندان عادی می توانند درخواست خود برای بازنگری و اصلاح سیاست‌ها، قوانین و قانون اساسی را بصورت مستقیم مطرح کنند.

استان آلبرتا کانادا قوانینی را به تصویب رساند که به شهروندان این قدرت را می دهد تا مستقیماً برای اصلاح سیاست ها، قوانین و قانون اساسی پیشنهاد خود را ثبت کنند. این پیشنهادها شامل مواردی از جمله درخواست برگزاری همه پرسی، پیشنهاد تغییر سیاست‌ها، تغییر قوانین و اصلاح قانون اساسی را می‌دهد.

2) دیوان، نتایج انتخابات و انتقال قدرت از رئیس‌ جمهور پیشین نامزد منتخب در انتخابات را تایید کرد.

دیوان قانون اساسی جمهوری نیجر اولین انتقال قدرت از یک رئیس‌جمهور منتخب دمکراتیک به رئیس‌جمهور دیگر که برنده انتخابات دور دوم ریاست جمهوری بود را تایید کرد.

در جمهوری نیجر، رئیس حکومت/کشور رئیس‌جمهور است و با رای مردم برای دوره‌ پنج ساله انتخاب می‌شود که تنها یک بار قابل تمدید است. رئیس دولت، نخست‌وزیر است که رئیس کشور او را تعیین می‌کند و به مدیریت و ریاست هیأت وزیران می پردازد.

3) دیوان، دولت را موظف به تعیین زمان بندی مشخص برای مقررات محدودیت حرکت و اجتماعات مربوط به همه گیری کویید-19 کرد.

دیوان قانون اساسی جمهوری آلبانی از دولت خواست که برای محدودیت های حرکت و اجتماعات زمان بندی تعیین کند.

4) خواندن لوایح قانون توسط هوش مصنوعی یا بصورت ماشینی نقض قانون اساسی محسوب می‌شود.

دیوان عالی ایالت کلرادو حکم داد که دمکرات های سنای ایالت در سال 2019 وقتی به درخواست جمهوری خواهان مبنی بر طولانی خواندن لوایح با خواندن سریع لوایح توسط هوش مصنوعی پاسخ دادند، قانون اساسی را نقض کرده‌اند. 

5) مجلس به حذف مقررات مربوط به بیگاری اجباری مجرمین به عنوان مجازات از قانون اساسی رای مثبت داد.

مجلس سنا در ایالت تنسی اصلاحیه ای را برای حذف بخشی از قانون اساسی ایالتی تصویب کرد که مقررات مربوط به آن برده داری را به عنوان مجازات یک جرم مجاز می دانست. 

6) مجلس طرح بازنگری قانون اساسی را تصویب کرد.

مجلس ملی جمهوری فرانسه طرح اصلاح قانون اساسی را برای بروزرسانی قوانین حفاظت از محیط زیست این کشور را تصویب کرد.

7)‌ مجلس نتوانست طرح بازنگری قانون اساسی را به تصویب برساند.

مجلس پادشاهی تایلند نتوانست طرحی را تصویب کند که امکان اصلاح قانون اساسی مورد حمایت نظامیان را که پس از کودتای 2014 تصویب شده بود ، فراهم کند.

8) با استفاده از یک روند نادر، قانون اساسی اصلاح گردید.

قانون اساسی ایالت پنسیلوانیا با یک فرآیند اضطراری که به ندرت استفاده می شود، اصلاح شد. این بازنگری‌ شرایط طرح دعاوی مدنی را برای قربانیان سو استفاده جنسی از کودک فراهم می کند.

9) قانون مجاز شمردن مرگ خودخواسته،‌ مخالف قانون اساسی است.

دیوان قانون اساسی جمهوری پرتغال مقررات قانونی مجاز شمردن مرگ خود خواسته را مغایر اصل تعیین کننده (اختیار) قانون مغایرت اعلام کرد. مطابق این دادرسی‌ها، همچنین مقررات مربوط به همیاری پزشکی برای مرگ خودخواسته بیماران صعب العلاج، به دلیل استفاده از واژگان ناصحیح، باطل است. سال گذشته مجلس این کشور به هر پنج لایحه موسوم به «حق مرگ» رأی مثبت داد. اتانازی، مرگ خودخواسته یا بِه‌مرگی اصطلاحا در شرایطی انجام می‌شود که در آن بیمار بنا به درخواست خودش به صورت طبیعی و آرام بمیرد. کسانی که در شرایط این نوع از مرگ قرار دارند، بیشتر بیماران لاعلاج هستند و با رضایت خود، از افرادی مثل پزشکان معالج یا پرستاران یا افراد خانواده خود می‌خواهند که به آن‌ها در مردن کمک کنند. کلیسای کاتولیک پرتغال از آغاز بحث بر سر لایحه جدید، رهبری مخالفان آن را در دست داشته است و رهبران مذهبی پیش از این از قانون‌گذاران خواسته بودند که برای این موضوع همه پرسی برگزار کنند، اما سیاستمداران با آن مخالفت کردند.

10) دیوان در دادرسی قضایی، استفاده از زبان غیر رسمی در مجلس را مطابق قانون اساسی اعلام کرد.

دیوان قانون اساسی پادشاهی اسپانیا استفاده از زبان آستوری را در مجلس آستوریاس به رسمیت شناخت. زبان آستوری زبان محاوره رایج در استان خودمختار آستوریاس پادشاهی اسپانیا است که تا پیش از این تنها برای محاوره میان مردم آن منطقه رواج داشت. گویشوران این زبان را تا پانصد و پنجاه هزار نفر دانسته‌اند. 

11)‌ نگهداری(بازداشت) متهمان فاقد توانایی پرداخت وثیقه در زندان، خلاف قانون اساسی است.

دیوان عالی ایالت کالیفرنیا معتقد است نگهداری متهمان در پشت میله های زندان، بدلیل عدم توانایی پرداخت وثیقه خلاف قانون اساسی است.