A Comissão de Ciência, Tecnologia e Inovação da Câmara dos Deputados deu um passo significativo na proteção da saúde mental ao aprovar uma proposta que estabelece regras para sistemas de inteligência artificial (IA) e chatbots. O objetivo é garantir a adoção de protocolos de segurança que previnam casos de suicídio e automutilação no ambiente digital. A medida, que cria um sistema de vigilância ativa, busca abordar a crescente preocupação com o uso inadequado dessas tecnologias.
Protocolos de segurança e assistência
Com a nova legislação, os sistemas de IA serão obrigados a ativar um “modo de atenção especial” ao identificarem sinais de sofrimento psíquico. Nesse contexto, os usuários serão direcionados a serviços de apoio, como o Centro de Valorização da Vida (CVV), que pode ser contatado pelo número 188. Além disso, haverá um acompanhamento posterior para garantir que os usuários recebam a assistência necessária.
Notificações obrigatórias e relatórios de transparência
Outro aspecto importante da proposta é a inclusão das plataformas digitais na lista de instituições que devem notificar compulsoriamente as autoridades sanitárias do Sistema Único de Saúde (SUS) sobre casos de risco. As empresas também serão obrigadas a publicar relatórios anuais de transparência, detalhando as ações tomadas em relação à saúde mental dos usuários. Essas medidas visam aumentar a responsabilidade das plataformas e garantir um ambiente digital mais seguro.
Reação à utilização de IAs generativas
O relator do projeto, deputado André Figueiredo (PDT-CE), enfatizou que a proposta surge como uma resposta ao uso perigoso de IAs generativas, que são frequentemente empregadas como “conselheiras” terapêuticas. Segundo Figueiredo, a nova legislação confere ao Estado o poder de suspender o funcionamento de ferramentas que apresentem riscos graves à saúde pública, até que as falhas sejam corrigidas. Essa abordagem proativa é vista como essencial para proteger os usuários de potenciais danos.
Próximos passos e tramitação
O projeto, que tramita em caráter conclusivo, agora seguirá para análise das comissões de Comunicação, Saúde, e de Constituição e Justiça e de Cidadania. Para que a proposta se torne lei, será necessário que seja aprovada tanto pela Câmara dos Deputados quanto pelo Senado. A expectativa é que as discussões sobre o tema continuem a ganhar destaque, dada a relevância da saúde mental na sociedade contemporânea.
Com a aprovação dessas medidas, o Brasil dá um importante passo na regulação do uso de tecnologias emergentes, buscando garantir que a inovação não comprometa a saúde e o bem-estar dos cidadãos. A sociedade deve acompanhar atentamente os desdobramentos dessa proposta, que pode servir como um modelo para outros países.
