پاتوژنهای کشنده؛ نگرانی مشترک برخی رهبران هوش مصنوعی درباره ریسکهای آینده
برخی معماران و رهبران هوش مصنوعی، پاتوژنهای کشندهای که میتوانند بهصورت خاموش، گسترده و سریع منتشر شوند را از مهمترین نگرانیهای خود درباره ریسکهای هوش مصنوعی میدانند. این نگرانی به دلیل احتمال استفاده بازیگران بد از مدلهای پیشرفته برای کمک به ایجاد عوامل بیماریزای خطرناک مطرح شده است.
نگرانی از نقش هوش مصنوعی در ایجاد پاتوژنهای خطرناک
اکثر معماران و رهبران هوش مصنوعی در پاسخ به این سوال که بزرگترین نگرانی آنها درباره ریسکهای هوش مصنوعی چیست، به یک پاسخ مشترک اشاره میکنند: پاتوژنی کشنده که بهطور خاموش، گسترده و سریع پخش شود و امکان توقف آن وجود نداشته باشد.
این نگرانی در میان کارشناسان هوش مصنوعی به این باور مرتبط است که مدلهای پیشرفته میتوانند به یک بازیگر بد کمک کنند تا پاتوژنی مرگبار ایجاد کند، پیش از آنکه دولت و صنعت سیستمهای تشخیص و پیشگیری را بهبود بخشند.
نتایج مطالعه درباره ریسکهای هوش مصنوعی
در یک مطالعه جدید از MIT FutureTech و دانشگاه کوئینزلند، ۲۷۲ محقق، ۲۴ ریسک برتر هوش مصنوعی را رتبهبندی کردند.
بر اساس این مطالعه، محققان احتمال ۱۲ درصدی برای تولید یک نتیجه فاجعهبار توسط قابلیتهای خطرناک هوش مصنوعی تا سال ۲۰۳۰ و همچنین احتمال ۱۲ درصدی برای سلاحهای مبتنی بر هوش مصنوعی و قابلیتهای آسیبزا را ارزیابی کردند. بدون تلاشهای کاهش ریسک، این احتمالها به بیش از ۲۰ درصد میرسد.
محققان «فاجعهبار» را به معنای بیش از یک میلیون مرگ یا خسارت ۱۰۰ میلیارد دلاری تعریف کردند. کمک به ساخت سلاحهای شیمیایی یا بیولوژیکی نیز در این دسته از ریسکهای برتر قرار دارد.
هشدار رهبران شرکتهای هوش مصنوعی درباره خطرات زیستی
در ماه گذشته، سام آلتمن از OpenAI، داریو آمودئی از Anthropic، دمیسهاسابیس از Google DeepMind، مصطفی سلیمان از مایکروسافت و الکساندر وانگ از متا، نامهای عمومی را امضا کردند که در آن به خطر سلاحهای بیولوژیکی ناشی از هوش مصنوعی اشاره شده و خواستار ایجاد تدابیر ایمنی بیشتر شدند.
این احتمال پاتوژن، بر بحثهای دولت فدرال و صنعت درباره چگونگی بررسی و درک مدلها و قابلیتهای جدید هوش مصنوعی پیش از انتشار عمومی تأثیر گذاشته است.
امید است که توسعهدهندگان مدلهای پیشرفته، موانع و قابلیتهایی ایجاد کنند که بتواند از بازیگران بد با نیتهای بد جلوگیری کند.
چالش مدلهای متنباز و سرعت پیشرفت هوش مصنوعی
با این حال، جلوگیری از طرحریزی نقشههای شوم توسط بازیگران بد بسیار دشوار است، بهویژه با مدلهای متنباز که به سرعت در حال بهبود هستند.
این مدلها میتوانند در محیطهای خصوصی و خارج از هرگونه رژیم نظارتی مورد استفاده و تطبیق قرار گیرند.
امروز، مهندسی یک پاتوژن جدید واقعا نیاز به تخصص نادر، تجهیزات آزمایشگاهی خاص و سالها آزمایشهای ناموفق دارد. هوش مصنوعی این فرآیند را تسریع میکند.
در این سناریو، یک بازیگر بد از یک مدل قدرتمند برای شناسایی آسیبپذیریهای بیولوژیکی انسان و شناسایی تغییرات ژنتیکی استفاده میکند؛ تغییراتی که میتوانند یک پاتوژن شناختهشده را بیشتر قابل انتقال، سختتر برای شناسایی یا مقاوم به درمانهای موجود کنند.
این مدل که بر روی مجموعههای داده بیولوژیکی و ژنومی عظیم آموزش دیده، نامزدهای قابل قبولی تولید میکند. این نامزدها با استفاده از ابزارهای ویرایش ژنی که بهطور فزایندهای ارزان و در دسترس هستند، سنتز میشوند.
در این سناریو، پاتوژن پیش از آنکه کسی متوجه شود، پخش میشود و به اندازهای جدید است که میتواند از سیستمهای نظارت بیولوژیکی موجود عبور کند.