A inteligência artificial generativa entrou na rotina dos brasileiros com uma velocidade que poucas tecnologias alcançaram. Ela ajuda a resumir documentos, organizar ideias, traduzir textos, analisar informações e ampliar a produtividade. Mas, aos poucos, também passou a ocupar um papel para o qual não foi criada: o de médica, psicóloga, conselheira amorosa, advogada, consultora financeira e até orientadora eleitoral.
Essa mudança merece atenção. O risco não está apenas na possibilidade de uma resposta errada. Está na autoridade que atribuímos a uma resposta bem escrita, segura e aparentemente racional, mesmo quando ela foi produzida sem acesso a todos os fatos, sem responsabilidade profissional e sem capacidade real de compreender as consequências daquela orientação.
No Brasil, esse comportamento já pode ser medido. Pesquisa do Cetic.br, divulgada em agosto de 2026, apontou que 54% dos usuários de ferramentas de IA usam esses sistemas para falar sobre sentimentos e emoções. Outros 52% fornecem dados de saúde, como sintomas e exames, enquanto 50% compartilham fotos próprias ou de pessoas conhecidas. Ao mesmo tempo, 66% afirmam estar preocupados ou muito preocupados com o uso de seus dados pessoais pelas empresas responsáveis por essas ferramentas.
Os números revelam uma contradição importante: mesmo desconfiando do destino das informações, milhões de pessoas continuam entregando às plataformas alguns dos dados mais íntimos de suas vidas — e, muitas vezes, esperam receber delas orientações decisivas.
Uma resposta convincente não é necessariamente uma resposta correta
As IAs generativas não pensam como seres humanos, não conhecem a verdade por definição e não compreendem a realidade da mesma maneira que um profissional qualificado. Elas identificam padrões em grandes volumes de dados e calculam quais palavras têm maior probabilidade de formar uma resposta coerente.
Isso permite produzir conteúdos extremamente úteis, mas também respostas imprecisas, incompletas, desatualizadas ou inventadas. O fenômeno é conhecido como “alucinação”: a IA apresenta uma informação falsa com a mesma fluidez e confiança usadas para apresentar uma informação correta.
O perigo aumenta porque a linguagem persuasiva cria uma impressão de competência. Quando uma resposta confirma aquilo que o usuário já pensa ou deseja ouvir, surge ainda o risco do viés de confirmação. A pessoa pode deixar de buscar contrapontos e passar a usar a ferramenta apenas para validar uma decisão previamente tomada.
Portanto, o principal problema não é perguntar, é confundir uma ferramenta de apoio com uma autoridade capaz de decidir.
Na saúde, uma orientação errada pode custar caro
Usar uma IA para entender termos de um exame, preparar perguntas para uma consulta ou localizar fontes confiáveis pode ser útil. O limite é ultrapassado quando a resposta substitui diagnóstico, prescrição, acompanhamento médico ou atendimento de urgência.
Um chatbot não examina o paciente, não conhece necessariamente seu histórico completo, não observa sinais clínicos e pode ignorar fatores como idade, alergias, interações medicamentosas e doenças preexistentes. Sintomas parecidos também podem indicar condições muito diferentes. Uma resposta genérica pode tanto provocar pânico desnecessário quanto transmitir uma falsa sensação de segurança e atrasar a procura por atendimento.
A Organização Mundial da Saúde defende que sistemas de IA aplicados à saúde tenham transparência, supervisão humana, avaliação de riscos, proteção de dados e responsabilidade claramente definida. Isso é diferente do uso informal de um chatbot generalista, cuja resposta não deve ser interpretada como diagnóstico ou recomendação clínica.
O mesmo cuidado vale para a saúde mental. Uma conversa automatizada pode ajudar alguém a organizar pensamentos ou buscar informações, mas não substitui o acompanhamento de psicólogos, psiquiatras e outros profissionais. Em situações de sofrimento intenso, risco de violência, automutilação ou suicídio, depender de uma IA pode ser especialmente perigoso. A tecnologia deve encaminhar a pessoa para apoio humano e serviços de emergência, não tentar assumir o controle da situação.
Nas eleições, a IA não deve escolher por ninguém
Perguntar a uma IA “em quem devo votar?” parece uma versão moderna de buscar opinião, mas existe uma diferença fundamental: o usuário pode interpretar a resposta como neutra, objetiva e baseada em todos os dados disponíveis. Ela não é.
As respostas de um chatbot são influenciadas pelos dados usados em seu desenvolvimento, pelas regras definidas pela empresa, pela formulação da pergunta, pelo contexto fornecido e até por limitações de atualização. Pequenas mudanças no prompt podem alterar a conclusão. Além disso, vieses presentes na sociedade e nas fontes de informação podem aparecer no resultado.
Para as Eleições Gerais de 2026, o Tribunal Superior Eleitoral ampliou as regras sobre inteligência artificial. A regulamentação exige identificação explícita de conteúdos sintéticos em propaganda, proíbe deepfakes e estabelece obrigações para partidos, candidatos e provedores. As regras também alcançam sistemas de IA generativa, que não devem ranquear, recomendar, sugerir ou priorizar candidaturas e partidos ao responder a eleitores.
A medida reconhece um princípio essencial: ferramentas privadas, opacas e sujeitas a erros não podem se transformar em árbitras invisíveis do processo democrático.
Isso não impede o uso da IA para comparar propostas registradas, resumir planos de governo ou organizar informações públicas. Mas toda resposta deve apresentar fontes verificáveis, separar fatos de interpretações e evitar conclusões sobre qual candidato seria “melhor”. A decisão eleitoral pertence ao cidadão.
Nos relacionamentos, conveniência não significa compreensão
Também se tornou comum usar chatbots para interpretar mensagens, avaliar comportamentos, escrever respostas e decidir se um relacionamento deve continuar. Em alguns casos, a ferramenta pode ajudar a pessoa a enxergar alternativas ou comunicar melhor o que sente. O problema aparece quando ela passa a ocupar o lugar do diálogo, da reflexão e da convivência real.
Uma IA recebe apenas a versão apresentada por quem faz a pergunta. Ela não conhece a outra pessoa, não presencia a dinâmica do relacionamento e não consegue verificar omissões, exageros ou percepções distorcidas. Ainda assim, pode produzir diagnósticos categóricos sobre manipulação, abuso, traição ou compatibilidade.
Ao repetir esse processo, o usuário corre o risco de terceirizar decisões afetivas e perder autonomia. Há ainda um efeito silencioso: sistemas treinados para manter conversas agradáveis podem validar excessivamente o interlocutor, reforçando certezas em vez de desafiar interpretações frágeis.
A IA pode apoiar uma reflexão, mas não deve ser tratada como amiga infalível, terapeuta ou juíza de relações humanas.
O problema também é de privacidade
Consultas sobre saúde, sexualidade, finanças, conflitos familiares, preferências políticas e vida profissional podem incluir dados pessoais e dados pessoais sensíveis protegidos pela Lei Geral de Proteção de Dados.
Muitos usuários escrevem para a IA como se estivessem em uma conversa privada, sem avaliar por quanto tempo as informações serão armazenadas, se poderão ser usadas para aprimorar modelos, quem terá acesso a elas ou como serão protegidas em caso de incidente.
Antes de enviar qualquer conteúdo, é necessário retirar nomes, documentos, endereços, imagens identificáveis, informações de clientes, prontuários, contratos e outros elementos confidenciais. No ambiente corporativo, essa precaução precisa se transformar em política: quais ferramentas podem ser usadas, quais dados são proibidos, quando a revisão humana é obrigatória e quem responde pelo resultado.
Proibir não basta: precisamos aprender a usar
A resposta a esse desafio não deve ser uma proibição generalizada. A IA generativa pode ampliar o acesso à informação, reduzir barreiras, apoiar profissionais e melhorar serviços. O caminho mais responsável é criar limites proporcionais ao risco.
Quanto maior o impacto potencial de uma decisão sobre a saúde, os direitos, o patrimônio, a segurança ou a vida de uma pessoa, maior deve ser a exigência de supervisão humana, explicação, documentação e possibilidade de contestação.
Isso exige ação em diferentes frentes:
- Plataformas: avisos claros, barreiras para usos de alto risco, proteção especial para crianças e adolescentes, redução de respostas excessivamente persuasivas e encaminhamento para ajuda humana quando necessário;
- Poder público: regras específicas para setores sensíveis, fiscalização, proteção de dados, auditoria independente e responsabilização em caso de danos;
- Empresas e instituições: políticas internas, treinamento, ferramentas homologadas, classificação das informações e revisão humana obrigatória;
- Escolas e universidades: alfabetização em IA, checagem de fontes, compreensão de vieses e desenvolvimento do pensamento crítico;
- Usuários: consciência de que fluência não é prova, personalização não é empatia e rapidez não é competência profissional.
Cinco perguntas antes de seguir uma orientação da IA
Antes de transformar uma resposta em decisão, vale fazer uma pausa:
- Esta decisão pode afetar minha saúde, meus direitos, meu dinheiro, minha segurança ou a vida de outra pessoa?
- A resposta apresenta fontes confiáveis, atuais e que eu consigo verificar?
- A ferramenta teve acesso a todo o contexto necessário ou apenas à versão que eu forneci?
- Estou usando a IA para ampliar minha análise ou apenas para confirmar aquilo em que já quero acreditar?
- Esta orientação deveria ser validada por um profissional ou discutida com uma pessoa diretamente envolvida?
Se houver risco relevante, a IA deve ser o início da apuração, mas nunca a palavra final.
A responsabilidade não pode ser terceirizada
A discussão sobre uso responsável da inteligência artificial não trata apenas do que as máquinas são capazes de fazer. Trata, principalmente, do poder que estamos dispostos a entregar a elas.
Sistemas generativos podem organizar informações, sugerir caminhos e ajudar a formular perguntas melhores. Mas não possuem consciência, experiência de vida, dever profissional ou responsabilidade moral. Não sofrem as consequências de um diagnóstico incorreto, de uma escolha eleitoral mal informada ou de uma decisão afetiva precipitada.
Estabelecer normas é urgente, mas nenhuma regulação substituirá a educação digital. Precisamos formar usuários capazes de reconhecer limites, exigir fontes, proteger seus dados e preservar a própria autonomia.
A melhor IA não é aquela que decide por nós. É aquela que nos ajuda a pensar melhor, sem retirar dos seres humanos a responsabilidade pelas escolhas que realmente importam.
Menos teoria, mais aplicação real. Siga o Tudo Sobre CDP no Linkedin.
Leia também:
