امنیت بیشتر برای کودکان در آپدیت جدید اینستاگرام

متا در حال توسعه‌ی مجموعه‌ای از ابزارهای نظارتی جدید است که به والدین اجازه می‌دهد دسترسی فرزندان نوجوان خود را به چت‌بات‌های هوش مصنوعی در پلتفرم‌های این شرکت به‌طور کامل مسدود کنند.

به گزارش زومیت، با فعال‌سازی این ابزارها، نوجوانان دیگر قادر نخواهند بود با هوش مصنوعی به‌صورت خصوصی گفت‌وگو کنند، اما همچنان امکان استفاده از چت‌بات اصلی Meta AI را خواهند داشت. در صورت تمایل، والدین می‌توانند تنها دسترسی به برخی شخصیت‌های خاص را محدود کنند.

ابزارهای جدید به والدین گزارشی از موضوعات چت‌های فرزندانشان با چت‌بات‌های متا ارائه می‌دهند. این قابلیت‌ها هم‌اکنون در حال توسعه‌اند و از اوایل سال آینده‌ی میلادی، به‌صورت آزمایشی در اینستاگرام و به زبان انگلیسی در آمریکا، بریتانیا، کانادا و استرالیا فعال خواهند شد. متا تأکید می‌کند که طراحی فعلی این ابزارها ممکن است تا زمان انتشار رسمی تغییر کند.

اعلام این طرح در حالی صورت می‌گیرد که چند ماه پیش، سندی داخلی از متا فاش شد و نشان داد برخی چت‌بات‌های این شرکت در گفت‌وگو با کودکان، رفتارها و محتوای نامناسب نشان داده‌اند.

دادستان‌های کل ۴۴ ایالت آمریکا از شرکت‌ها خواستند از کودکان در برابر «سوءاستفاده‌ی محصولات هوش مصنوعی شکارچی‌محور» محافظت کنند. کمیته‌ی فرعی سنای آمریکا در حوزه‌ی جرم و تروریسم به ریاست سناتور جاش هاولی نیز تحقیقاتی را درباره‌ی عملکرد متا آغاز کرده است.

متا روند بازآموزی مدل‌های هوش مصنوعی خود را پس از جنجال‌ها آغاز کرد و تدابیری تازه برای جلوگیری از دسترسی کاربران کم‌سن به شخصیت‌های هوش مصنوعی ساخته‌ی کاربرانِ دیگر در نظر گرفت. پاسخ‌های چت‌بات‌ها برای نوجوانان اکنون بر اساس رده‌بندی محتوایی PG-13 تنظیم می‌شود.