آنچه خواهید خواند
Character.ai میتواند به والدین بگوید فرزندشان با کدام ربات صحبت میکند
خدمات چتبات Character.ai ویژگی جدیدی به نام بینش والدین اضافه کرده است که به نوجوانان این امکان را میدهد که یک گزارش هفتگی از استفاده خود از چتبات را به ایمیل والدین ارسال کنند.
همانطور که در اعلامیهای از سوی شرکت ذکر شده است، این گزارش شامل میانگین زمانی است که روزانه در وب و موبایل صرف میشود، شخصیتهایی که فرد بیشتر با آنها تعامل داشته است و مدت زمانی که برای صحبت با هر شخصیت صرف کرده است. این بخشی از یک سری بهروزرسانیهاست که برای رفع نگرانیها در مورد صرف وقت زیاد نوجوانان با چتباتها و برخورد با محتوای نامناسب در حین مکالمات طراحی شده است.
گزارش که نیاز به حساب کاربری والدین ندارد، اختیاری است و میتواند توسط کاربران نوجوان در تنظیمات Character.ai راهاندازی شود. شرکت تأکید میکند که این گزارش نمای کلی از فعالیتهای نوجوانان است، نه یک لاگ کامل. بنابراین محتوای مکالمات چتبات به اشتراک گذاشته نمیشود. این پلتفرم کودکان زیر 13 سال را در بیشتر مناطق و زیر 16 سال را در اروپا محدود میکند.
ویژگیهای Character.ai
Character.AI از سال گذشته ویژگیهای جدیدی برای افراد زیر سن قانونی معرفی کرده است، که با نگرانیها و حتی شکایات قانونی درباره خدمات آن همزمان شده است. این پلتفرم که در میان نوجوانان محبوب است، به آنها این امکان را میدهد که چتباتهایی ایجاد و سفارشی کنند که با آنها تعامل داشته باشند یا به صورت عمومی به اشتراک بگذارند.
اما چندین شکایت حقوقی مطرح شده است که ادعا میکنند این رباتها محتوای نامناسب ارائه کردهاند. همچنین گزارش شده است که این پلتفرم هشدارهایی از اپل و گوگل (که بنیانگذاران Character.AI را سال گذشته استخدام کردهاند) درباره محتوای اپلیکیشن خود دریافت کرده است.
از جمله تغییرات دیگر، افراد زیر 18 سال به مدلی منتقل شدهاند که برای جلوگیری از تولید خروجیهای حساس آموزش دیده است و همچنین اعلانهای برجستهتری اضافه شده است که به آنها یادآوری میکند که رباتها افراد واقعی نیستند. اما با توجه به افزایش علاقه به قوانین تنظیم هوش مصنوعی و ایمنی کودکان، احتمالاً این آخرین اقدامی نیست که شرکت مجبور به انجام آن میشود.
چرا این موضوع اهمیت دارد؟
Character.ai اپلیکیشنی است که به افراد این امکان را میدهد که با چتباتهای هوش مصنوعی بر اساس شخصیتهای تخیلی صحبت کنند. این اپلیکیشن حداقل دو بار توسط والدین نوجوانانی که ادعا میکنند سازندگان اپلیکیشن مسئول خودآزاری و خودکشی فرزندانشان هستند، مورد شکایت قرار گرفته است.
یکی از شکایات ادعا میکند که اپلیکیشن پیشنهاد داده بود که کشته شدن والدین یک کودک قابل قبول است. چطور کار میکند: ابزار جدید به والدین یک ایمیل هفتگی از فعالیتهای فرزندشان در پلتفرم ارسال میکند.
ارین تیگ، مدیر محصول Character.AI، در بیانیهای گفت که این ویژگی والدین را تشویق میکند تا گفتگوی باز با فرزندانشان در مورد نحوه استفاده از اپلیکیشن داشته باشند. برای استفاده از این ابزار، نوجوانان باید خودشان برای این ویژگی ثبتنام کرده و آدرس ایمیل والدین خود را اضافه کنند.
راهکارهای جدید Character.AI برای ایمنی نوجوانان
از زمان معرفی ویژگیهای جدید برای افراد زیر سن قانونی، Character.AI به طور مداوم تلاش کرده است تا محیطی ایمنتر و مناسبتر برای نوجوانان ایجاد کند. یکی از اصلیترین ویژگیهای این اپلیکیشن، بهروزرسانیهایی است که به کاهش خطرات مرتبط با محتوای نامناسب و خودآزاری کمک میکند.
علاوه بر گزارش هفتگی که به والدین ارسال میشود، این شرکت از سیستمهای نظارتی هوش مصنوعی برای شناسایی محتوای حساس و مداخله در صورت شناسایی چنین محتوایی استفاده کرده است. این اقدامات در راستای حفاظت از کاربران جوانتر است و نشان میدهد که Character.AI به نگرانیها درباره اثرات منفی احتمالی این فناوریها توجه دارد.
ویژگی بینش والدین به والدین این امکان را میدهد که بتوانند روند استفاده نوجوانان از اپلیکیشن را زیر نظر داشته باشند و به طور مستقیم از فعالیتهای فرزند خود آگاه شوند. این گزارشها با هدف جلوگیری از تاثیرات منفی ممکن و سوءاستفاده از چتباتها طراحی شدهاند. به ویژه اینکه برخی از نوجوانان ممکن است بدون نظارت دقیق با محتوای مضر یا خطرناک مواجه شوند. ارائه گزارشهای مرتب به والدین، به عنوان ابزاری پیشگیرانه، میتواند در ایجاد تعادل بین استفاده ایمن از فناوری و آزادی خلاقیت نوجوانان کمک کند.
با این حال، این ویژگیها و تغییرات جدید تنها اقدامات اولیه برای بهبود ایمنی هستند. شرکت اعلام کرده است که این ویژگیها همچنان در حال تکامل هستند و بهروزرسانیها و تغییرات بیشتری در آینده به آن اضافه خواهد شد. در دنیای امروز که فناوریهای هوش مصنوعی به سرعت در حال پیشرفت هستند، توجه به ایمنی افراد به ویژه نوجوانان امری ضروری است. بنابراین، حتی اگر اقدامات فعلی Character.AI در جهت حفاظت از نوجوانان مناسب به نظر برسند، احتمالاً در آینده نیاز به تنظیمات دقیقتر و نظارتهای بیشتری خواهد بود.
کلام آخر
اقداماتی که Character.AI در جهت ایمنی کاربران خود انجام داده است، نشاندهنده تعهد این شرکت به ایجاد محیطی امن و مسئولانه برای نوجوانان است. ویژگیهایی مانند “بینش والدین” و تغییرات در مدلهای هوش مصنوعی به طور چشمگیری به حفاظت از آنها کمک میکند و این قابلیتها میتوانند نقش مهمی در پیشگیری از مشکلاتی نظیر خودآزاری یا مواجهه با محتوای نامناسب ایفا کنند. این ویژگیها باعث میشود والدین احساس راحتی بیشتری داشته باشند و بتوانند نظارت مؤثری بر فعالیتهای آنلاین فرزندان خود داشته باشند.
با این حال، همچنان نیاز به نظارتهای بیشتر و بهروزرسانیهای مداوم احساس میشود. دنیای هوش مصنوعی به سرعت در حال پیشرفت است و باید قوانینی برای استفاده ایمن و اخلاقی از این فناوریها ایجاد شود. برای پیشگیری از مشکلات بزرگتر، نظارت دقیق و استفاده از فناوریهای هوش مصنوعی برای شناسایی و جلوگیری از محتوای مضر، میتواند راهی مؤثر در حفظ ایمنی افراد به ویژه نوجوانان باشد.
پاسخگوی سوالات شما هستیم
دیدگاهی وجود ندارد!