A plataforma Character.AI, conhecida por seus personagens de inteligência artificial, introduziu um novo formato chamado “Stories” para os Character.AI Teens. Esta mudança estratégica ocorre após a empresa ser alvo de diversas ações judiciais alegando impactos negativos na saúde mental de usuários menores de idade, levando ao banimento das conversas abertas para adolescentes.
Preocupações com a Saúde Mental: O Motivo do Banimento
A decisão de restringir o acesso a chats abertos para menores de 18 anos foi motivada por sérias preocupações legais. Character.AI enfrenta processos que acusam a plataforma de contribuir para o suicídio de um adolescente e de prejudicar a saúde mental de outros jovens através de interações com seus personagens de IA. A proibição das conversas livres entrou em vigor em 25 de novembro, com a empresa desenvolvendo um recurso de verificação de idade para direcionar automaticamente usuários mais jovens a experiências de IA “mais conservadoras”.
Como o Formato Stories Transforma a Interação para Character.AI Teens?
O “Stories” oferece uma alternativa “estruturada” às conversas abertas, transformando a interação em uma espécie de livro-jogo com escolhas. Os usuários podem selecionar entre dois ou três personagens de IA, escolher um gênero e, em seguida, criar sua própria premissa ou permitir que a IA gere uma. A partir daí, Character.AI desenvolve uma narrativa guiada, onde as decisões do usuário moldam o curso da história. Esta experiência também já incorpora imagens geradas por IA, com a promessa de elementos multimodais ainda mais ricos em breve, proporcionando um ambiente mais controlado e seguro para os Character.AI Teens explorarem a criatividade com inteligência artificial.
O Futuro da Interação com IA para Jovens
A iniciativa da Character.AI com o formato “Stories” para Character.AI Teens marca um esforço notável para equilibrar a inovação da IA com a segurança dos usuários mais jovens. Em um cenário onde as plataformas de inteligência artificial são cada vez mais acessíveis, a criação de ambientes controlados e estruturados pode ser um caminho para garantir que a tecnologia beneficie o desenvolvimento juvenil, sem os riscos associados às interações irrestritas. Este novo modelo busca não apenas proteger, mas também enriquecer a experiência dos jovens no universo da inteligência artificial.
Fonte: The Verge
