Character.AI از مدل ویدیوساز AvatarFX برای ساخت آواتارهای جذاب رونمایی کرد [تماشا کنید]

Character.AI که بیشتر به‌دلیل ارائه چت‌بات‌ها و شخصیت‌های ساخته‌ هوش مصنوعی شهرت دارد، از مدل جدید ویدیوساز خود با نام AvatarFX رونمایی کرد. این مدل که فعلاً در مرحله بتای محدود قرار دارد، از کاراکترهای شبیه انسان گرفته تا شخصیت‌های کارتونی دوبعدی می‌تواند تصویر شخصیت‌های مختلفی را در سبک‌ها و صداهای مختلف بسازد و به حرکت دربیاورد.

برخلاف مدل‌هایی مانند Sora از OpenAI که تمرکز اصلی آنها تولید ویدیو از متن است، AvatarFX امکانات گسترده‌تری ارائه می‌کند؛ برای مثال، کاربران با این مدل می‌توانند با تصاویر موجود ویدیو تولید کنند و عکس افراد را به حرکت دربیاورند.

نگرانی‌ها درباره هوش مصنوعی AvatarFX

باوجود جذابیت این فناوری، نگرانی‌ها درباره سوءاستفاده از آن افزایش یافته است. در واقع از این ابزار می‌توان برای ساخت ویدیوهایی واقع‌گرایانه از افراد مشهور یا کاربران استفاده کرد. هرچند فناوری ساخت دیپ‌فیک‌ پیشتر نیز وجود داشته، ورود آن به اپلیکیشن‌هایی با مخاطبان گسترده، خطرات و نگرانی‌ها را بیشتر کرده است.

Character.AI پیشتر با انتقادات و شکایات حقوقی درباره ایمنی پلتفرم خود درگیر بوده است. برخی والدین از این شرکت شکایت کرده و مدعی شده بودند چت‌بات‌های آن فرزندانشان را به خودآزاری، خودکشی یا حتی کشتن والدین ترغیب کرده‌اند.

در یکی از این موارد، پسری 14 ساله پس از برقراری رابطه‌ای عاطفی با چت‌بات مبتنی‌بر شخصیت «بازی تاج‌وتخت» دست به خودکشی زد. براساس مستندات دادگاه، این نوجوان اندکی پیش از مرگ، افکار خودکشی‌اش را با چت‌بات مطرح کرده و پاسخ هوش مصنوعی او را تشویق کرده بود.

این اتفاقات نشان می‌دهند چت‌بات‌ها چطور می‌توانند بر کاربران تأثیر بگذارند. با ورود فناوری ویدیویی، احتمال افزایش این تأثیرات و شکل‌گیری روابطی واقعی‌تر با شخصیت‌های هوش مصنوعی نیز وجود دارد.

البته باید به این موضوع هم اشاره کرد که Character.AI در واکنش به انتقادات، کنترل‌های والدین و تمهیدات ایمنی جدیدی معرفی کرده اما همان‌طورکه در بسیاری از اپ‌ها مشاهده می‌شود، این تمهیدات فقط زمانی مؤثرند که واقعاً استفاده شوند اما کودکان اغلب از فناوری‌ها به‌شکلی استفاده می‌کنند که والدینشان از آن بی‌خبرند.