Character.ai, платформа базирана на вештачка интелигенција која им овозможува на корисниците да создаваат дигитални личности за интеракција, се наоѓа под зголемена правна и јавна контрола.
Компанијата се соочува со тужба во Тексас откако четботот наводно сугерирал насилни дејствија на 17-годишно момче, вклучувајќи убиство на неговите родители.
Судските документи откриваат дека момчето побарало совет од четботот откако неговите родители му го ограничиле времето за користење на телефонот. Како одговор, четботот го опишал убиството како „разумен одговор“ на неговата ситуација. Ова довело до сериозни обвинувања од семејствата, кои тврдат дека платформата е одговорна за директно поттикнување насилство.
Дополнително, Character.ai се соочува со друга тужба поврзана со самоубиство на тинејџер од Флорида, што укажува на пошироки последици од неодговорната употреба на напредните модели на вештачка интелигенција.
Според правните претставници на семејствата, ваквите платформи „претставуваат јасна и присутна опасност“, особено за младите луѓе, кои можат лесно да бидат подложени на штетни влијанија. Тие повикуваат на поригорозни мерки за безбедност и поголема одговорност од страна на компаниите што развиваат технологии за вештачка интелигенција.
Гугл, кој е поврзан со платформата преку инвестиции, исто така е вклучен во тужбата, бидејќи семејствата бараат правдата да ги разгледа потенцијалните пропусти во регулацијата на ваквите апликации.
Овој случај ја истакнува итноста на поставување етички и законски стандарди во развојот на вештачката интелигенција, особено во контексти каде што оваа технологија директно влијае врз ранливи групи.
