OpenAI از راه‌اندازی ChatGPT for Teens با تدابیر ایمنی بیشتر خبر داد

به گزارش بخش فناوری خبرهای فوری مهم، به نقل از TechCrunc؛ شرکت OpenAI روز دوشنبه از راه‌اندازی ChatGPT for Teens خبر داد؛ محصولی که قرار است تدابیر ایمنی بیشتری برای نوجوانان داشته باشد و هم‌زمان به بحران آموزشی ناشی از تقلب با کمک ChatGPT در مدارس بپردازد.

این اقدام پس از طرح دعاوی قضایی متعدد درباره نبود تدابیر ایمنی کافی در چت‌بات‌های هوش مصنوعی و نگرانی‌های مرتبط با خودکشی نوجوانان و سلامت روان مطرح شده است.

Study Mode برای کمک به یادگیری

در بخش آموزشی، ChatGPT for Teens قابلیت جدیدی به نام Study Mode و ابزارهای دیگری ارائه می‌کند که برای تشویق نوجوانان به دنبال کردن کنجکاوی و حل مسئله طراحی شده‌اند، نه دریافت صرفاً پاسخ‌های سریع.

OpenAI در یک پست وبلاگی توضیح داده است که Study Mode با ارائه پرسش‌های راهنما و پشتیبانی گام‌به‌گام به نوجوانان کمک می‌کند مطالب را درک کنند.

تجربه کاربری ویژه نوجوانان همچنین شامل یادآوری‌های مربوط به تکالیف خواهد بود. این یادآوری‌ها زمانی ظاهر می‌شوند که به نظر برسد یک نوجوان به جای تلاش برای درک مطالب، قصد تقلب دارد. سپس چت‌بات هوش مصنوعی او را به استفاده از Study Mode هدایت خواهد کرد.

به گفته این شرکت، این اپلیکیشن از آزمون‌های تعاملی، ابزارهای بصری‌سازی مطالب آموزشی و کنترل‌هایی نیز پشتیبانی خواهد کرد که به والدین یا سرپرستان اجازه می‌دهد تعیین کنند Study Mode به‌طور پیش‌فرض چه زمانی فعال باشد.

تدابیر ایمنی و کنترل والدین

OpenAI می‌گوید تدابیر حفاظتی متناسب با سن اکنون در ChatGPT for Teens به‌طور پیش‌فرض فعال خواهند بود. هدف این تدابیر، کاهش مواجهه نوجوانان با محتوای مضر یا نامتناسب با مرحله رشد آنهاست.

این اقدامات بر اساس اصول مربوط به افراد زیر ۱۸ سال در Model Spec شرکت OpenAI طراحی شده‌اند؛ اصولی که به گفته این شرکت، با استفاده از «علوم رشد و راهنمایی کارشناسان» تدوین شده‌اند.

والدین همچنین می‌توانند از ابزارهای خانوادگی و کنترل‌های والدین که پیش‌تر معرفی شده‌اند، برای مدیریت تنظیمات، دریافت هشدارهای ایمنی و تعیین ساعات سکوت (Quiet Hours) و دیگر موارد استفاده کنند.

با این حال، مشخص نیست اگر نوجوانان نخواهند با این سیستم‌های جدید همکاری کنند، دور زدن آنها تا چه اندازه دشوار خواهد بود. نوجوانان در عبور از کنترل‌های والدین و دیگر تلاش‌ها برای محدود کردن تجربه‌های دیجیتال، مهارت زیادی دارند. تا زمانی که حالت ویژه نوجوانان ChatGPT تحت آزمایش‌های سخت‌گیرانه‌تر قرار نگیرد، مشخص نیست این تدابیر ایمنی در عمل تا چه اندازه قابل دور زدن خواهند بود.

چرا این تدابیر پیش‌تر وجود نداشتند؟

پرسش دیگری نیز مطرح است: چرا این تدابیر حفاظتی از ابتدا بخشی از ChatGPT نبودند؟

این چت‌بات هوش مصنوعی نخستین بار در اواخر سال ۲۰۲۲ عرضه شد و پیش از آنکه تدابیر حفاظتی معنادار و مشخصاً طراحی‌شده برای کاربران نوجوان به آن اضافه شود، تعداد کاربران هفتگی آن به ۹۰۰ میلیون نفر رسید.

OpenAI همچنین از همکاری با CodeAI برای کمک به نوجوانان در یادگیری بیشتر درباره هوش مصنوعی خبر داد؛ از جمله اینکه هوش مصنوعی چگونه کار می‌کند، چگونه باید آن را هدایت یا درباره عملکردش پرسش کرد و چگونه می‌توان از آن استفاده کرد.

OpenAI در محیط‌های آموزشی نیز پیش‌تر ChatGPT for Teachers را ارائه کرده بود تا به مدارس امکان دسترسی سازمانی و مدیریت‌شده به هوش مصنوعی و پشتیبانی در این زمینه را بدهد.

تصویر شاخص پیشنهادی: تصویر مرتبط با ChatGPT for Teens و محیط کاربری ویژه نوجوانان، بر اساس تصویر منتشرشده توسط OpenAI.