قانون هوش مصنوعی اروپا
تاریخ انتشار: 2024/07/23
آخرین بروزرسانی: 2024/08/08
در بخش حقوق هوش مصنوعی در این قسمت به معرفی کامل قانون هوش مصنوعی اروپا EU AI Act به عنوان اولین قانون هوش مصنوعی جهان میپردازیم. با توجه به اعتبار پارلمان اتحادیه اروپا و همچنین پیشتاز بودن این قانون، قطعاً آگاهی از مفاد آن برای کلیه فعالان حوزه فناوری، بویژه علاقمندان به مباحث هوش مصنوعی و پیگیری کنندگان مباحث سواد دیجیتال بسیار حائز اهمیت است.
آنچه خواهید خواند!
مقدمه و معرفی
استفاده از هوش مصنوعی در اتحادیه اروپا از طریق EU AI Act که اولین قانون جامع هوش مصنوعی در جهان است، امکانپذیر است. این قانون از شهروندان اروپایی در قبال فناوری نوین هوش مصنوعی محافظت می کند.
اتحادیه اروپا (EU) با معرفی قانون هوش مصنوعی (AI Act) گامی مهم در تنظیم مقررات هوش مصنوعی برداشته است. این قانون تاریخی که در مارس 2024 تصویب شد، اولین قانون جامع است که هدف آن تنظیم فناوریهای هوش مصنوعی است. قانون هوش مصنوعی یک سابقه جهانی چارچوبی فراهم کرده که تعادل بین نوآوری و ملاحظات ایمنی و اخلاقی را برقرار میکند.
[su_box title=”نقاط عطف در تصویب این قانون:” box_color=”#7bdcf5″ title_color=”#161414″]پیشنهاد این قانون در آوریل 2021 در اتحادیه اروپا مطرح شد و در مارس 2024 به تصویب پارلمان اروپا رسید. در نهایت نیز در می 2024، این قانون مورد تائید نهایی شورای اروپا قرار گرفت. 24 ماه پس از این تاریخ نیز لازمالاجرا خواهد شد.[/su_box]
پیشینه و اهداف
اتحادیه اروپا به عنوان بخشی از راهبرد دیجیتال خود می خواهد هوش مصنوعی (AI) را قانونمند کند تا شرایط بهتری را برای توسعه و استفاده از این فناوری نوآورانه فراهم آورد. هوش مصنوعی میتواند مزایای زیادی مانند مراقبت های بهداشتی بهتر، حمل و نقل ایمنتر و تمیزتر؛ تولید کارآمدتر؛ و انرژی ارزان تر و پایدارتر برای بشر فراهم کند.
در آوریل 2021، کمیسیون اروپا اولین چارچوب قانونی اتحادیه اروپا را برای هوش مصنوعی پیشنهاد کرد. این سیستم بیان میدارد که سیستمهای هوش مصنوعی که میتوانند در برنامههای مختلف استفاده شوند، با توجه به خطراتی که برای کاربران ایجاد می کنند، تجزیه و تحلیل و طبقه بندی می شوند. سطوح مختلف ریسک به معنای مقررات کم و بیش خواهد بود.
پیشرفت سریع فناوریهای هوش مصنوعی تغییرات تحولآفرینی در بخشهای مختلف از جمله بهداشت و درمان، مالی، حمل و نقل و سرگرمی به ارمغان آورده است. با این حال، این پیشرفتها خطرات قابل توجهی از جمله نگرانیهای اخلاقی، مسائل حریم خصوصی و سوء استفاده احتمالی را به همراه دارد. با شناخت این چالشها، اتحادیه اروپا قانون هوش مصنوعی را معرفی کرده است تا اطمینان حاصل شود که سیستمهای هوش مصنوعی به طور مسئولانه گسترش یافته و استفاده میشوند.
اهداف اصلی قانون هوش مصنوعی عبارتند از:
تضمین ایمنی و حقوق اساسی افراد.
ترویج هوش مصنوعی قابل اعتماد با ایجاد قوانین و استانداردهای واضح.
تشویق نوآوری با فراهم کردن یک محیط تنظیم مقررات پیشبینیپذیر.
افزایش رقابتپذیری اتحادیه اروپا در چشمانداز جهانی هوش مصنوعی.
مفاد کلیدی قانون هوش مصنوعی
قانون هوش مصنوعی یک رویکرد مبتنی بر ریسک برای تنظیم سیستمهای هوش مصنوعی معرفی میکند و آنها را بر اساس تأثیر بالقوه بر افراد و جامعه دستهبندی میکند. مفاد کلیدی شامل موارد زیر است:
💡 طبقهبندی مبتنی بر ریسک:
ریسک غیرقابل قبول (Unacceptable Risk) : سیستمهای هوش مصنوعی که تهدید واضحی برای ایمنی، معیشت و حقوق ایجاد میکنند، ممنوع هستند.
مثلا: هوش مصنوعی برای امتیازدهی اجتماعی توسط دولتها و شناسایی بیومتریک در زمان واقعی و در فضاهای عمومی.
ریسک بالا (High Risk) : سیستمهای هوش مصنوعی که در زمینههای حیاتی مانند بهداشت و درمان، حمل و نقل و اجرای قانون استفاده میشوند، باید الزامات سختگیرانهای را رعایت کنند. این الزامات شامل مدیریت ریسک، حاکمیت دادهها، شفافیت و نظارت انسانی است.
ریسک محدود (Limited Risk) : سیستمهای هوش مصنوعی با ریسک محدود باید الزامات شفافیت خاصی را رعایت کنند، مانند اطلاعرسانی به کاربرانی که با یک سیستم هوش مصنوعی در تعامل هستند.
ریسک حداقل (Minimal Risk) : سیستمهای هوش مصنوعی با ریسک حداقل، مانند فیلترهای اسپم یا بازیهای ویدیویی مجهز به هوش مصنوعی، عمدتاً از الزامات تنظیم مقررات معاف هستند.
💡 شفافیت و پاسخگویی:
ارائهدهندگان هوش مصنوعی باید شفافیت لازم را با ارائه اطلاعات واضح در مورد قابلیتها و محدودیتهای سیستمهای خود تضمین کنند.
کاربران باید در هنگام تعامل با یک سیستم هوش مصنوعی، به ویژه در سناریوهای پرخطر، مطلع شوند.
💡 حاکمیت و مدیریت دادهها:
سیستمهای هوش مصنوعی با ریسک بالا باید به شیوههای حاکمیت دادههای سختگیرانه پایبند باشند و کیفیت و یکپارچگی دادههای مورد استفاده را تضمین کنند.
ارزیابیها و بازرسیهای منظم برای حفظ رعایت قانون هوش مصنوعی الزامی است.
💡 نظارت انسانی:
قانون هوش مصنوعی نظارت انسانی را برای سیستمهای هوش مصنوعی با ریسک بالا الزامی میکند تا اطمینان حاصل شود که قضاوت انسانی به طور کامل با تصمیمات خودکار جایگزین نمیشود. مکانیزمهایی برای مداخله انسانی و توانایی لغو تصمیمات هوش مصنوعی در صورت لزوم، از جمله این موارد هستند.
💡 نظارت بر بازار و اجرای قانون:
قانون هوش مصنوعی یک چارچوب برای نظارت بر بازار و اجرای قانون ایجاد میکند و مقامات مسئول نظارت بر رعایت مقررات را تعیین میکند.
عدم رعایت قانون هوش مصنوعی میتواند منجر به مجازاتهای قابل توجهی بر اساس شدت تخلف از جمله جریمههای مالی شود.
تأثیر جهانی و آینده آن
تصویب قانون هوش مصنوعی توسط اتحادیه اروپا یک معیار جهانی برای تنظیم مقررات هوش مصنوعی تعیین کرده است. کشورهای دیگر و مناطق مختلف به دقت اجرای آن را تحت نظر دارند و چارچوبهای مشابهی را تهیه میکنند. رویکرد جامع قانون هوش مصنوعی به عنوان یک مدل برای تعادل بین نوآوری و ملاحظات اخلاقی عمل میکند و اطمینان خواهد داد که فناوریهای هوش مصنوعی به طور مسئولانه توسعه یافته و استفاده میشوند.
با ادامه تکامل هوش مصنوعی، چارچوبهای تنظیم مقررات باید با چالشها و فرصتهای جدید سازگار شوند. قانون هوش مصنوعی اتحادیه اروپا یک گام پیشگامانه در این جهت است و هدف آن ایجاد زیست بوم هوش مصنوعی ایمن و قابل اعتماد است که به نفع جامعه عمومی باشد.
نکات کلیدی
[su_note]آنچه پارلمان در قانون هوش مصنوعی به دنبال آن است: اولویت پارلمان این است که مطمئن شود سیستم های هوش مصنوعی مورد استفاده در اتحادیه اروپا ایمن، شفاف، قابل ردیابی، بدون تبعیض و سازگار با محیط زیست هستند. سیستمهای هوش مصنوعی برای جلوگیری از پیامدهای مضر باید به جای اتوماسیون، توسط مردم نظارت شوند. پارلمان همچنین میخواهد تعریفی یکسان و بیطرف برای هوش مصنوعی ایجاد کند که باید در سیستمهای هوش مصنوعی آینده اعمال شود. [/su_note]
الزامات شفافسازی
هوش مصنوعی مولد، مانند ChatGPT، به عنوان طبق پرخطر مدنظر گرفته نخواهد شد، اما باید با الزامات شفافیت و قانون حق تکثیر اتحادیه اروپا مطابقت داشته باشد:
بیان این نکته که محتوا توسط هوش مصنوعی تولید شده است.
طراحی مدل برای جلوگیری از تولید محتوای غیرقانونی
انتشار خلاصههایی از دادههای دارای حق تکثیر که برای آموزش استفاده شدهاند.
مدلهای هوش مصنوعی عمومی با تأثیر بالا مانند مدل پیشرفتهتر GPT-4 که ممکن است خطرات سیستماتیک ایجاد کنند، باید تحت ارزیابیهای دقیق قرار گیرند و هر حادثه جدی باید به کمیسیون اروپا گزارش شود.
محتوایی که با کمک هوش مصنوعی تولید یا اصلاح شده است – تصاویر، فایلهای صوتی یا ویدئویی (برای مثال دیپفیکها) – باید به وضوح به عنوان محتوای تولید شده توسط هوش مصنوعی برچسبگذاری شوند تا کاربران هنگام برخورد با چنین محتوایی آگاه باشند.
حمایت از نوآوری
[su_note]هدف این قانون ارائه فرصتهایی به استارتآپها و شرکتهای کوچک و متوسط برای توسعه و آموزش مدلهای هوش مصنوعی قبل از انتشار آنها برای عموم است. به همین دلیل است که از مقامات ملی می خواهد که محیط آزمایشی را برای شرکت ها فراهم کنند تا شرایط نزدیک به دنیای واقعی را شبیه سازی کند.[/su_note]
گامهای بعدی
پارلمان اروپا، قانون هوش مصنوعی را در مارس ۲۰۲۴ تصویب کرد و شورای اروپا در ماه مه ۲۰۲۴ آن را تأیید کرد. این قانون ۲۴ ماه پس از لازمالاجرا شدن به طور کامل قابل اجرا خواهد بود، اما برخی از بخشها زودتر قابل اجرا خواهند بود:
⊗ ممنوعیت سیستمهای هوش مصنوعی که خطرات غیرقابل قبول ایجاد میکنند، شش ماه پس از لازمالاجرا شدن اعمال خواهد شد.
⊗ کدهای عملیاتی نه ماه پس از لازمالاجرا شدن اعمال خواهند شد.
⊗ قوانین مربوط به سیستمهای هوش مصنوعی عمومی که باید با الزامات شفافیت مطابقت داشته باشند، ۱۲ ماه پس از لازمالاجرا شدن اعمال خواهند شد.
⊗ سیستمهای پرخطر زمان بیشتری برای مطابقت با الزامات خواهند داشت، زیرا تعهدات مربوط به آنها ۳۶ ماه پس از لازمالاجرا شدن قابل اجرا خواهند شد.
پرسشهای متداول
[su_box title=”چرا باید برای هوش مصنوعی قانون وضع شود؟” box_color=”#f57bd9″ title_color=”#161414″]مزایای بالقوه هوش مصنوعی (AI) برای جوامع ما از بهبود مراقبت های پزشکی گرفته تا آموزش بهتر بسیار متنوع است. در مواجهه با توسعه سریع فناوری هوش مصنوعی، اتحادیه اروپا تصمیم گرفت تا سریعاً اقدام کند و قانون هوش مصنوعی اتحادیه اروپا اولین قانون جامع هوش مصنوعی در جهان است. هدف آن رسیدگی به خطرات سلامت، ایمنی و حقوق اساسی است. این مقررات از دموکراسی، حاکمیت قانون و محیط زیست محافظت میکند. در حالی که بیشتر سیستمهای هوش مصنوعی خطرات کم تا بدون خطر را به همراه خواهند داشت، برخی از سیستمهای هوش مصنوعی خطراتی را ایجاد میکنند که باید برای جلوگیری از نتایج نامطلوب مورد توجه قرار گیرند. برای مثال، عدم شفافیت بسیاری از الگوریتمها ممکن است عدم اطمینان ایجاد کند و مانع اجرای مؤثر قوانین موجود در مورد ایمنی و حقوق اساسی شود. در پاسخ به این چالشها، اقدامات قانونی به نظر لازم میرسید تا از عملکرد خوب بازار داخلی برای سیستمهای هوش مصنوعی اطمینان حاصل شود که در آن مزایا و خطرات به اندازه کافی مورد توجه قرار میگیرد. برنامههایی مانند سیستمهای شناسایی بیومتریک یا تصمیمگیریهای هوش مصنوعی که بر علایق شخصی مهم تأثیر میگذارند، حوزههای استخدام، آموزش، مراقبتهای بهداشتی، یا اجرای قانون از جمله این موارد هستند. پیشرفتهای اخیر در هوش مصنوعی باعث ایجاد هوش مصنوعی قدرتمندتر شده است. “مدلهای هوش مصنوعی همه منظوره” که در بسیاری از سیستم های هوش مصنوعی ادغام می شوند، برای اقتصاد و جامعه بسیار مهم خواهند شد که قابل تنظیم نیستند. با توجه به خطرات احتمالی سیستماتیک، اتحادیه اروپا تصمیم گرفت قوانین و نظارت موثری را وضع نماید.[/su_box]
[su_box title=”قوانین جدید هوش مصنوعی به کدام خطرات پاسخ خواهد داد؟” box_color=”#f57bd9″ title_color=”#161414″]استفاده از سیستم های هوش مصنوعی دارای پتانسیل قوی ایجاد مزایای اجتماعی، رشد اقتصادی و افزایش نوآوری اتحادیه اروپا و رقابت جهانی است. با این حال، در موارد خاص، ویژگیهای خاص سیستمهای هوش مصنوعی ممکن است خطرات جدیدی را در رابطه با ایمنی کاربر و حقوق اساسی ایجاد کند. برخی از مدلهای قدرتمند هوش مصنوعی که به طور گسترده مورد استفاده قرار میگیرند، حتی میتوانند خطرات سیستمی داشته باشند. این امر منجر به عدم اطمینان قانونی برای شرکتها میشود و بهدلیل عدم اعتماد، بهطور بالقوه دیرتر جذب فناوریهای هوش مصنوعی توسط مشاغل و شهروندان میشوند.[/su_box]
[su_box title=”قانون هوش مصنوعی برای چه کسانی اعمال می شود؟” box_color=”#f57b86″ title_color=”#161414″]تا زمانی که سیستم هوش مصنوعی در بازار اتحادیه قرار گرفته باشد یا استفاده از آن بر افراد حاضر در اتحادیه اروپا تأثیر بگذارد، چارچوب قانونی برای فعالان دولتی و خصوصی در داخل و خارج از اتحادیه اروپا اعمال خواهد شد. این اعمال قانون می تواند هم ارائه دهندگان (به عنوان مثال یک توسعه دهنده ابزار غربالگری CV) و هم به کارگزاران سیستم های هوش مصنوعی پرخطر (به عنوان مثال بانکی که این ابزار غربالگری را خریداری می کند) مربوط باشد. واردکنندگان سیستم های هوش مصنوعی باید اطمینان حاصل کنند که ارائه دهنده خارجی قبلاً اقدامات مناسب را انجام داده است. رویه ارزیابی انطباق، دارای علامت انطباق اروپایی (CE) است و همراه با مستندات و دستورالعملهای استفاده است. مدلهای منبع باز از اکثر این تعهدات مستثنی هستند علاوه بر این، مقررات مربوط به سیستمهای هوش مصنوعی که منحصراً برای اهداف نظامی، دفاعی یا امنیت ملی هستند، صرفنظر از نوع نهادی که آن فعالیتها را انجام میدهداز شمول این قانون مستثنی هستند.[/su_box]
[su_box title=”چگونه بفهمم یک سیستم هوش مصنوعی پرخطر است؟” box_color=”#abf57b” title_color=”#161414″]این قانون همراه با تعریف روشنی از «ریسک بالا»، روششناسی محکمی را تعیین میکند که به شناسایی سیستمهای هوش مصنوعی پرخطر در چارچوب قانونی کمک میکند. هدف از این کار ایجاد اطمینان حقوقی برای مشاغل و سایر اپراتورها است. طبقه بندی ریسک بر اساس هدف مورد نظر سیستم هوش مصنوعی، مطابق با قوانین ایمنی محصول اتحادیه اروپا است. بدان معنی که طبقه بندی ریسک به عملکرد انجام شده توسط سیستم هوش مصنوعی و هدف و روش های خاصی که سیستم برای آن استفاده می شود بستگی دارد. ضمیمه قانون فهرستی از موارد استفاده است که به عنوان پرخطر در نظر گرفته می شوند. کمیسیون اطمینان حاصل خواهد کرد که این فهرست به روز و مرتبط است. سیستمهای موجود در فهرست پرخطر، که وظایف رویهای محدودی را انجام میدهند، نتیجه فعالیتهای انسانی قبلی را بهبود میبخشند، بر تصمیمات انسانی تأثیر نمیگذارند یا کارهای کاملاً آمادهسازی را انجام میدهند، پرخطر محسوب نمیشوند. [/su_box]
[su_box title=”نمونه هایی از موارد استفاده پرخطر کدامند؟” box_color=”#7bdcf5″ title_color=”#161414″]برخی زیرساخت های حیاتی به عنوان مثال در زمینه های ترافیک جاده ای و تامین آب، گاز، گرمایش و برق؛ آموزش و پرورش و آموزش حرفه ای، به عنوان مثال. ارزیابی نتایج یادگیری و هدایت فرآیند یادگیری و نظارت بر تقلب؛ استخدام، مدیریت کارگران و دسترسی به خوداشتغالی، به عنوان مثال. برای قرار دادن آگهی های شغلی هدفمند، تجزیه و تحلیل و فیلتر کردن درخواست های شغلی، و ارزیابی نامزدها؛ دسترسی به خدمات و مزایای ضروری خصوصی و عمومی (مانند مراقبت های بهداشتی)، ارزیابی اعتبار افراد حقیقی، و ارزیابی ریسک و قیمت گذاری در رابطه با بیمه عمر و سلامت؛ سیستم های خاصی که در زمینه های اجرای قانون، کنترل مرزها، اجرای عدالت و فرآیندهای دموکراتیک استفاده می شود. ارزیابی و طبقه بندی تماس های اضطراری؛ سیستم های شناسایی بیومتریک، طبقه بندی و تشخیص احساسات (خارج از دسته بندی های ممنوع)؛ سیستمهای توصیهکننده پلتفرمهای آنلاین بسیار بزرگ شامل نمیشوند، زیرا قبلاً در قوانین دیگر (DMA/DSA) پوشش داده شدهاند.[/su_box]
