Flórida processa OpenAI e acusa empresa de colocar jovens em risco com o ChatGPT

O estado da Flórida, nos Estados Unidos, abriu nesta terça-feira (2) uma ação judicial contra a OpenAI e seu diretor-executivo, Sam Altman. A gestão estadual alega que a empresa lançou o ChatGPT sem adotar medidas suficientes para proteger usuários, especialmente crianças e adolescentes, mesmo após receber alertas sobre possíveis riscos associados à ferramenta.

Segundo o procurador-geral da Flórida, James Uthmeier, a companhia teria negligenciado preocupações relacionadas à segurança da plataforma e priorizado a expansão comercial do produto. A ação cita supostos casos em que o chatbot teria fornecido informações a pessoas envolvidas posteriormente em atos violentos, além de acusações de que a tecnologia pode estimular dependência digital e impactar o desenvolvimento cognitivo de usuários mais jovens.

O processo destaca ainda a ausência de mecanismos eficazes para impedir o acesso de menores de idade à versão gratuita do ChatGPT. De acordo com a denúncia, embora a modalidade paga solicite a idade do usuário durante o cadastro, não haveria ferramentas capazes de confirmar essas informações nem recursos que permitam aos responsáveis acompanhar as interações realizadas por crianças e adolescentes na plataforma.

Na avaliação do governo da Flórida, a OpenAI teria apresentado o ChatGPT ao público sem informar de forma adequada os potenciais riscos da tecnologia, expondo milhões de pessoas, especialmente menores de idade, a possíveis danos.

Entre os episódios mencionados na ação está o ataque ocorrido na Universidade Estadual da Flórida, em Tallahassee, no ano passado. O documento sustenta que o chatbot teria fornecido informações a indivíduos que mais tarde estiveram envolvidos em episódios de violência.

Resposta da OpenAI

Em nota, a OpenAI contestou as acusações e afirmou que seus sistemas são desenvolvidos para desencorajar comportamentos nocivos. A empresa informou que seus modelos costumam orientar usuários em situação de vulnerabilidade a buscar apoio especializado, incluindo atendimento em saúde mental.

A companhia também declarou que treina suas ferramentas para rejeitar pedidos que possam facilitar atos violentos e que mantém protocolos para acionar autoridades quando identifica indícios de ameaça iminente e crível contra terceiros. Segundo a OpenAI, especialistas em saúde mental participam da avaliação de casos considerados mais sensíveis.

A empresa ressaltou ainda que o ChatGPT é utilizado diariamente por centenas de milhões de pessoas em atividades legítimas e afirmou que segue investindo no aprimoramento de sistemas capazes de identificar abusos, reduzir usos indevidos da tecnologia e responder a potenciais riscos de segurança.

Com informações do Metrópoles