جهان در جستوجوی قطبنمای اخلاقی در عصر الگوریتمها
چهارمین مجمع جهانی اخلاق هوش مصنوعی ۲۰۲۶ از ۱۴ تا ۱۷ سپتامبر در ریاض برگزار شد و موضوعاتی از جمله حکمرانی اخلاقی هوش مصنوعی، مسئولیتپذیری، حقوق بشر، نابرابری و همکاری بینالمللی را بررسی کرد. حسین سیمایی، وزیر علوم، تحقیقات و فناوری ایران، نیز در این مجمع درباره پیامدهای اخلاقی توسعه هوش مصنوعی و احتمال تبدیل نظارت بر دادهها به کنترل بر انسانها هشدار داد.
برگزاری چهارمین مجمع جهانی اخلاق هوش مصنوعی در ریاض
چهارمین مجمع جهانی اخلاق هوش مصنوعی ۲۰۲۶ با همکاری سازمان آموزشی، علمی و فرهنگی ملل متحد (یونسکو) و سازمان داده و هوش مصنوعی عربستان سعودی در ریاض برگزار شد.
این رویداد از ۱۴ تا ۱۷ سپتامبر ۲۰۲۶ ادامه داشت و مقامها، سیاستگذاران، کارشناسان، پژوهشگران، دانشگاهیان و نمایندگان سازمانهای بینالمللی را گرد هم آورد. محور اصلی نشستها، تقویت حکمرانی مسئولانه هوش مصنوعی و تبدیل اصول اخلاقی این حوزه به سیاستها و سازوکارهای عملی بود.
در این مجمع موضوعاتی از جمله اخلاق و حکمرانی هوش مصنوعی، همکاری بینالمللی، ظرفیتسازی، نوآوری مسئولانه، تأثیر هوش مصنوعی بر بازار کار و مهارتها و ایمنی این فناوری مورد بحث قرار گرفت.
هشدار حسین سیمایی درباره «دیکتاتوری نامرئی»
حسین سیمایی، وزیر علوم، تحقیقات و فناوری ایران، در این مجمع با اشاره به پیامدهای اخلاقی توسعه فناوری گفت: «فناوری خنثی نیست و هوش مصنوعی نیز به خودی خود عادلانه عمل نمیکند؛ الگوریتمها گاهی بیش از آنکه بسازند، تخریب میکنند و پلتفرمها میتوانند به جای توسعه، منشأ آسیب شوند.»
سیمایی همچنین درباره نحوه استفاده از دادهها و ابزارهای نظارتی هشدار داد و گفت: «هوش مصنوعی میتواند کنترل بر دادهها را به کنترل بر انسانها تبدیل کند.»
وزیر علوم ایران با تأکید بر ضرورت محدود بودن نظارت افزود: «هرچه شفافیت و نظارت بر دولتها و صاحبان قدرت بیشتر باشد، بهتر است؛ اما هنگامی که نظارت متوجه شهروندان عادی شود و رفتار، روابط و نیات آنان را دنبال کند، میتواند به نوعی دیکتاتوری نامرئی تبدیل شود.»
مسئولیت اخلاقی پلتفرمهای هوش مصنوعی
یکی دیگر از محورهای سخنان وزیر علوم ایران، مسئولیت پلتفرمها و توسعهدهندگان هوش مصنوعی در قبال نحوه استفاده از این فناوری بود.
سیمایی با طرح این پرسش که آیا پلتفرمهای هوش مصنوعی در قبال نحوه استفاده از فناوریهای خود مسئولیتی دارند یا خیر، گفت دادهها در اقداماتی به کار گرفته میشوند که حقوق بشر را نقض میکنند و حتی به کشتهشدن کودکان میانجامند.
وی همچنین به تفاوت میان محدودیتهای برخی چتباتها و کاربردهای نظامی هوش مصنوعی اشاره کرد و گفت بسیاری از چتباتها از پاسخ دادن به پرسشهایی درباره خودکشی خودداری میکنند، اما هوش مصنوعی میتواند برای شناسایی و هدفگیری انسانها با موشک مورد استفاده قرار گیرد.
سیمایی در همین زمینه به حمله به مدرسهای در میناب و کشتهشدن ۱۶۸ نفر اشاره کرد. گزارشهای منتشرشده نیز شمار کشتهشدگان این حمله را ۱۶۸ نفر اعلام کردهاند.
تأکید ایران بر دسترسی برابر به هوش مصنوعی
موضوع نابرابری و دسترسی به فناوری نیز از دیگر محورهای مطرحشده در سخنان وزیر علوم ایران بود.
سیمایی گفت کشورهای در حال توسعه باید امکان ایجاد سامانههای هوش مصنوعی متناسب با زبانها و فرهنگهای خود را داشته باشند و سازمانهای بینالمللی نیز در تحقق این هدف مسئولیت اخلاقی دارند.
وی تأکید کرد: «فناوری باید در خدمت بشریت باشد و هوش مصنوعی باید آزادی انسان را گسترش دهد، نه اینکه آن را محدود کند.»
موضوع دسترسی برابر و جلوگیری از گسترش شکاف میان کشورها نیز در مباحث کلی مجمع مورد توجه قرار گرفت. در نشستهای این رویداد، بر اهمیت ظرفیتسازی و در نظر گرفتن تفاوت اولویتها و میزان آمادگی کشورهای مختلف برای استفاده از هوش مصنوعی تأکید شد.
صلح و امنیت از نگاه وزیر علوم ایران
سیمایی در پاسخ به پرسشی درباره مهمترین اقدام برای تقویت ظرفیت ایران در زمینه هوش مصنوعی مسئولانه، به تغییر اولویتها تحت تأثیر شرایط زمانی اشاره کرد.
او گفت: «اگر این پرسش پیش از ژوئن ۲۰۲۵ مطرح میشد، بدون تردید پاسخ من سرمایهگذاری هدفمند و پایدار در بخشهای آب و انرژی بود و در گام دوم نیز بر تقویت همکاریها در زیستبوم هوش مصنوعی ایران تأکید میکردم.»
وزیر علوم ایران همچنین با اشاره به ظرفیتهای علمی کشور، از جمله دانشگاهها و شرکتهای دانشبنیان، بر ایجاد سازوکارهای همکاری و تبادل داده تأکید کرد.
او در ادامه گفت: «امروز معتقدم مهمترین اولویت، نه فقط برای ایران بلکه برای کل منطقه، رفع اقدامات قهری یکجانبه و استقرار صلح در منطقه است. این تحریمها غیراخلاقیاند و برقراری امنیت و صلح یک ضرورت اخلاقی است.»
نگرانیهای همزمان درباره آینده هوش مصنوعی
همزمان با برگزاری مجمع ریاض، چارلز سوم، پادشاه بریتانیا، نیز در اسکاتلند با شماری از چهرههای برجسته حوزه هوش مصنوعی دیدار کرد.
نمایندگان شرکتهایی از جمله اوپنایآی، آنتروپیک، گوگل دیپمایند و انویدیا در این نشست حضور داشتند. چارلز سوم از فعالان این حوزه خواست اطمینان دهند که هوش مصنوعی تحت کنترل انسان باقی میماند و در خدمت مردم، جوامع و محیطزیست قرار میگیرد.
این همزمانی، نشاندهنده طرح موضوع ایمنی، مسئولیتپذیری و کنترل هوش مصنوعی در دو نشست بینالمللی در فاصله زمانی نزدیک است؛ موضوعاتی که در مجمع ریاض نیز در قالب حکمرانی اخلاقی و مسئولانه هوش مصنوعی مورد بحث قرار گرفت.
تأکید بر حکمرانی اخلاقی هوش مصنوعی
چهارمین مجمع جهانی اخلاق هوش مصنوعی در حالی به کار خود پایان داد که بیش از ۶۰ وزیر و رئیس هیأت، ۲۰۰ سخنران و بیش از ۱۰ هزار بازدیدکننده در آن حضور داشتند و بیش از ۱۰۰ نشست، کارگاه و برنامه جانبی برگزار شد.
در پایان این رویداد، موضوعاتی مانند تبدیل اصول اخلاقی هوش مصنوعی به سیاستهای عملی، تقویت حکمرانی مسئولانه، مدیریت ریسک و توسعه ظرفیتهای انسانی و نهادی در کانون توجه قرار گرفت.
