به گزارش روابط عمومی وزارت علوم، چهارمین مجمع جهانی اخلاق هوش مصنوعی (GFEA)؛ Fourth Global Forum on the Ethics of Artificial Intelligence با میزبانی یونسکو و نمایندگی سازمان داده و هوش مصنوعی عربستان سعودی و مرکز بین‌المللی پژوهش و اخلاق هوش مصنوعی و با حضور دکتر حسین سیمایی، وزیر علوم، تحقیقات و فناوری و رئیس کمیسیون ملی یونسکو در ایران، دکتر محمدحافظ حکمی، معاون فناوری، نوآوری و امور بین‌الملل وزارت ارتباطات و فناوری اطلاعات و دکتر حسن فرطوسی، دبیرکل کمیسیون ملی یونسکو در ایران درحال برگزاری است.
نمایندگان دولت‌ها، جامعه مدنی، جوامع علمی و دانشگاهی، سازمان‌های بین‌المللی و بخش خصوصی در این مجمع حضور می‌یابند تا در گفت‌وگویی سازنده درباره چگونگی پیشبرد همکاری‌ها در زمینه حکمرانی اخلاقی و فراگیر هوش مصنوعی مشارکت کنند.
مجمع جهانی اخلاق هوش مصنوعی با هدف پیشبرد اجرای «توصیه‌نامه یونسکو درباره اخلاق هوش مصنوعی» در تمامی کشورهای عضو یونسکو فعالیت می‌کند. این مجمع با فراهم کردن زمینه تبادل دانش و تجربیات میان مناطق مختلف جهان در زمینه تدوین سیاست‌های هوش مصنوعی، به دنبال تقویت توسعه اجتماعی و اقتصادی فراگیر و پایدار و در عین حال، صیانت از حقوق بشر و آزادی‌های اساسی است.
گفتنی است، این مجمع جهانی که در سال ۲۰۲۲ راه‌اندازی شد، پیش از این به میزبانی جمهوری چک، اسلوونی و تایلند برگزار شده است و از سال ۲۰۲۴ نیز از حمایت مالی مشترک اتحادیه اروپا برخوردار بوده است. این رویداد، رهبران جهانی، سیاست‌گذاران، کارشناسان و ذی‌نفعان را گردهم می‌آورد تا گفت‌وگوها درباره اخلاق و حکمرانی هوش مصنوعی را تقویت کرده و رویکردهای عملی و پایدار در این حوزه را ترویج کند.
دوره ۲۰۲۶ این مجمع، فضایی برای تأمل اخلاقی در سطح عالی فراهم کرده و با پیوند میان مباحث حکمرانی و نوآوری‌های فناورانه، زمینه را برای گفت‌وگویی گسترده‌تر درباره آینده هوش مصنوعی فراهم می‌سازد.
فناوری خنثی نیست
حسین سیمایی در سخنرانی خود در این مجمع جهانی، با نگاهی آسیب‌شناسانه به روند توسعه هوش مصنوعی، هشدار‌هایی را خطاب به جامعه جهانی مطرح کرد. وزیر علوم با تأکید بر ضرورت توجه جدی به پیامد‌های اخلاقی توسعه فناوری‌های نوین گفت: «فناوری خنثی نیست و هوش مصنوعی نیز به خودی خود عادلانه عمل نمی‌کند؛ الگوریتم‌ها گاهی بیش از آنکه بسازند، تخریب می‌کنند و پلتفرم‌ها می‌توانند به جای توسعه، منشأ آسیب شوند.»
سیمایی با تبیین خطرات نظارت لجام‌گسیخته، به مفهوم جدیدی از تهدیدات سایبری اشاره کرد و افزود: «هوش مصنوعی می‌تواند کنترل بر داده‌ها را به کنترل بر انسان‌ها تبدیل کند. حتی نظارت نیز باید محدودیت داشته باشد. هرچه شفافیت و نظارت بر دولت‌ها و صاحبان قدرت بیشتر باشد، بهتر است؛ اما هنگامی که نظارت متوجه شهروندان عادی شود و رفتار، روابط و نیات آنان را دنبال کند، می‌تواند به نوعی دیکتاتوری نامرئی تبدیل شود.» این سخنان در حالی مطرح می‌شود که بسیاری از نهاد‌های حقوق بشری نیز نسبت به استفاده از هوش مصنوعی برای سرکوب نرم شهروندان ابراز نگرانی کرده‌اند.
فاجعه میناب و مسئولیت اخلاقی پلتفرم‌ها
بخش دیگری از سخنان وزیر علوم، به ابعاد نظامی و امنیتی هوش مصنوعی اختصاص داشت. وی با انتقاد از استاندارد‌های دوگانه در توسعه فناوری تصریح کرد: «امروز داده‌ها در اقداماتی به کار گرفته می‌شوند که حقوق بشر را نقض می‌کنند و حتی به کشته‌شدن کودکان می‌انجامند. این پرسش جدی مطرح است که آیا پلتفرم‌های هوش مصنوعی در قبال نحوه استفاده از فناوری‌های خود مسئولیتی دارند یا خیر؟»
سیمایی در ادامه با اشاره به پارادوکس‌های رفتاری هوش مصنوعی افزود: «بسیاری از چت‌بات‌ها از پاسخ‌دادن به پرسش‌هایی درباره خودکشی خودداری می‌کنند و این اقدام درستی است، اما در سوی دیگر، هوش مصنوعی می‌تواند برای شناسایی و هدف‌گیری دقیق انسان‌ها با موشک به کار گرفته شود.» وی در همین زمینه به واقعه‌ای تلخ اشاره کرد و گفت: «حمله به مدرسه‌ای در میناب و کشته‌شدن ۱۶۸ دانش‌آموز در حین تحصیل، زخمی است که برای یافتن راه‌حل آن باید عمیقاً اندیشید.» این اظهارات بیانگر لزوم تدوین پروتکل‌های بین‌المللی برای جلوگیری از کاربرد جنگی هوش مصنوعی علیه غیرنظامیان است.
شکاف دیجیتال و حق فرهنگ‌های بومی
وزیر علوم ایران نابرابری را یکی دیگر از چالش‌های اساسی عصر حاضر دانست و خاطرنشان کرد: «دانش و توانایی همواره شکاف‌هایی ایجاد کرده‌اند و هوش مصنوعی ممکن است این شکاف‌ها را بیش از هر فناوری پیشین گسترش دهد. از این رو یک چارچوب اخلاقی نباید فقط به جلوگیری از آسیب محدود شود، بلکه باید دسترسی برابر را نیز تضمین کند.» وی تأکید کرد که کشورهای در حال توسعه باید این فرصت را داشته باشند که سامانه‌های هوش مصنوعی خود را متناسب با زبان‌ها و فرهنگ‌های خود ایجاد کنند و سازمان‌های بین‌المللی نیز در کمک به تحقق این هدف، مسئولیتی اخلاقی بر عهده دارند.
سیمایی درباره اولویت‌های ایران، با اشاره به فشار‌های خارجی گفت: «امروز معتقدم مهم‌ترین اولویت، نه فقط برای ایران بلکه برای کل منطقه، رفع اقدامات قهری یکجانبه و استقرار صلح در منطقه است. این تحریم‌ها غیراخلاقی‌اند و برقراری امنیت و صلح یک ضرورت اخلاقی است.» وی همچنین بر توانمندی‌های داخلی ایران تأکید کرد و افزود: «ایران از مجموعه متنوعی از دانشگاه‌های توانمند، پژوهشگران برجسته و شرکت‌های دانش‌بنیان برخوردار است که باید با سازوکار‌های همکاری مؤثر، پژوهش‌های انباشته‌شده را به راه‌حل‌های مسئولانه تبدیل کنند».
