حمایت قانون‌گذاران اتحادیه اروپا از اصلاح قانون AI و افزایش ممنوعیت‌های بیومتریک از راه دور
در می ۲۰۲۳ نمایندگان پارلمان اروپا از اصلاحات پیش نویس قانون AI – از جمله موافقت با مجموعه‌ای از الزامات برای مدل‌های به اصطلاح بنیادی که زیربنای فناوری‌های AI مولد مانند Open AI’s Chatgpt هستند- حمایت کردند.
متن اصلاحیه توافق شده توسط نمایندگان پارلمان در دو کمیته، تعهداتی را برای ارائه دهندگان مدل‌های بنیادی برای اعمال نظارت‌های ایمنی، اقدامات حاکمیت داده‌ها و کاهش ریسک قبل از قرار دادن مدل‌های خود در بازار، از جمله موظف بودن آن‌ها برای در نظر گرفتن “خطرات قابل پیش بینی برای سلامتی، ایمنی، حقوق اساسی، محیط زیست، دموکراسی و حاکمیت قانون” مقرر می‌کند.
همچنین به سازندگان مدل بنیادی متعهد می‌شوند تا مصرف انرژی و استفاده از منابع از سیستم‌های خود را کاهش داده و سیستم‌های خود را در یک پایگاه داده اتحادیه اروپا، که توسط قانون هوش مصنوعی تعیین شده است، ثبت کنند. به علاوه ارائهدهندگان فناوری‌های تولید‌کننده هوش مصنوعی (مانند ChatGPT) موظف هستند تعهدات شفافیت در این آیین نامه را (مانند اطمینان از اطلاع رسانی به کاربر درباره محتوای تولید شده) رعایت و در رابطه با محتوایی که سیستم‌هایشان تولید می‌کنند، «ضمانت‌های حفاظتی کافی» را اعمال کنند و خلاصه‌ای از مطالب دارای حق نسخه‌برداری را که برای آموزش هوش مصنوعی استفاده می‌شود ارائه دهند.
در جلسات اخیر، تمرکز نمایندگان پارلمان بر این بوده تا اطمینان حاصل کنند که هوش مصنوعی با اهداف عمومی از الزامات نظارتی به ویژه نظارت بیومتریک فرار نمی‌کند و در این راستا با هدف تقویت حمایت از حقوق اساسی، تغییراتی را در مقررات مربوطه اعمال نمودند. همچنین پارلمان صورت جلسه‌ای تدوین نمود تا در جلسات بعدی روند قانون‌گذاری مشترک اتحادیه اروپا را باز کند.
همچنین هدف پارلمان اروپا در اصلاحات خود در پیشنهاد کمیسیون، این است که اطمینان حاصل کند که سیستم‌های هوش مصنوعی تحت نظارت شهروندان، ایمن، شفاف، قابل ردیابی، بدون تبعیض و سازگار با محیط زیست هستند. به همین سبب حدود ۳،۰۰۰ اصلاحیه در قانون جدید با جهت‌گیری تعریفی واحد و خنثی از هوش مصنوعی صورت گرفت.
از جمله اصلاحات کلیدی مورد توافق کمیته‌های پارلمان، گسترش فهرست «اعمال ممنوعه» است (افزودن ممنوعیت‌هایی برای استفاده‌های «مزاحمتآمیز» و «تبعیض‌آمیز» از سیستم‌های هوش مصنوعی) مانند:
- سیستم‌های شناسایی بیومتریک «بلادرنگ» در فضاهای قابل دسترسی عموم؛
- سیستم‌های شناسایی بیومتریک از راه دور «پس از ذخیره» به استثنای مجریان قانونی برای تعقیب جرایم جدی و تنها پس از مجوز قضایی؛
- سیستم‌های طبقه‌بندی بیومتریک با استفاده از خصوصیات حساس (به عنوان مثال جنسیت، نژاد، قومیت، وضعیت شهروندی، دین، جهت گیری سیاسی)؛
- سیستم‌های پیش بینی کننده پلیس (بر اساس پروفایل، موقعیت مکانی یا سوابق کیفری)،
- سیستم‌های تشخیص احساسات (Emotion recognition systems) در اجرای قانون، مدیریت مرز، محل کار و مؤسسات آموزشی؛
- حذف یا مخدوش نمودن بیرویه داده‌های بیومتریک از رسانه‌های اجتماعی یا فیلم‌های دوربین مدار بسته برای ایجاد پایگاه‌های اطلاعاتی تشخیص چهره (نقض حقوق بشر و حق حفظ حریم خصوصی).
در سال ۲۰۲۱، هنگامی که کمیسیون پیش نویس پیشنهاد خود را برای قانون هوش مصنوعی ارائه داد، با تمام نگرانی‌های پیش رو تاکید می‌کرد که چارچوب مبتنی بر ریسک، نقشه‌ای را برای هوش مصنوعی “انسانی” و “قابل اعتماد” ایجاد می‌کند. به هر حال با توجه به تأثیر عمیق تحول‌آمیز هوش مصنوعی در جوامع و اقتصادهای در حال توسعه، قانون هوش مصنوعی کمیسیون اتحادیه اروپا را می‌توان مهمترین قانون در این حوزه دانست زیرا اولین قانون‌گذاری از این نوع در سراسر جهان است، به این معنی که الگو گرفتن از این قانون می‌تواند راه را برای ساخت هوش مصنوعی انسان محور، قابل اعتماد و ایمن سوق دهد. در ایران نیز برای حمایت از نوآوری هوش مصنوعی نیازمندیم که به استارت‌آپ‌ها، شرکت‌های کوچک و متوسط و صنعت فضایی برای رشد و نوآوری داده و در حالی که از حقوق اساسی محافظت می‌کنیم، نظارت دموکراتیک را تقویت و از سیستمی بالغ در حکمرانی و اجرای هوش مصنوعی اطمینان حاصل نماییم.
پویا ذکری‌اصفهانی