Deepfakes de médicos reais tentam convencer usuários a comprar remédios sem eficácia comprovada Joe Raedle/Getty Images O TikTok e outras plataformas de mídia social estão hospedando vídeos deepfake gerados por IA com médicos conhecidos, cujas falas foram manipuladas para ajudar a vender suplementos e espalhar desinformação sobre saúde. A organização de checagem de fatos Full Fact descobriu centenas desses vídeos com versões falsificadas de médicos e influenciadores direcionando os espectadores para a Wellness Nest, uma empresa de suplementos com sede nos EUA, relata o The Guardian. Todos os deepfakes envolvem imagens reais de um especialista em saúde retiradas da internet. No entanto, as imagens e o áudio foram alterados para que os palestrantes incentivem mulheres na menopausa a comprar produtos como probióticos e shilajit do Himalaia no site da empresa. As revelações levaram a pedidos para que as gigantes das mídias sociais sejam muito mais cuidadosas ao hospedar conteúdo gerado por IA e mais rápidas na remoção de posts que distorcem as opiniões de pessoas proeminentes. “Esta é certamente uma nova tática sinistra e preocupante”, disse Leo Benedictus, o verificador de fatos que realizou a investigação, publicada pela Full Fact na sexta-feira. Ele acrescentou que os criadores de vídeos deepfake sobre saúde utilizam inteligência artificial para que “alguém respeitado ou com grande público pareça estar endossando esses suplementos para tratar uma série de doenças”. O professor David Taylor-Robinson, especialista em desigualdades na saúde da Universidade de Liverpool, está entre aqueles cuja imagem foi manipulada. Em agosto, ele ficou chocado ao descobrir que o TikTok hospedava 14 vídeos adulterados que supostamente o mostravam recomendando produtos com benefícios não comprovados. Embora Taylor-Robinson seja especialista em saúde infantil, em um dos vídeos, a versão clonada dele falava sobre um suposto efeito colateral da menopausa chamado “perna de termômetro”. O falso médico Taylor-Robinson recomendava que mulheres na menopausa visitassem um site chamado Wellness Nest e comprassem o que chamavam de probiótico natural com “10 extratos de plantas com comprovação científica, incluindo cúrcuma, cimicífuga, DIM [diindolilmetano] e moringa, especificamente escolhidos para combater os sintomas da menopausa”. O médico falso dizia que suas colegas “frequentemente relatam sono mais profundo, menos ondas de calor e manhãs mais dispostas em poucas semanas”. O verdadeiro Taylor-Robinson descobriu que sua imagem estava sendo usada apenas quando um colega o alertou. “Foi muito confuso no começo – tudo bastante surreal”, disse ele. “Meus filhos acharam hilário.” “Não me senti extremamente violado, mas fiquei cada vez mais irritado com a ideia de pessoas vendendo produtos às custas do meu trabalho e com a desinformação sobre saúde envolvida.” As imagens de Taylor-Robinson usadas para criar os vídeos deepfake vieram de uma palestra sobre vacinação que ele deu em uma conferência da Public Health England (PHE) em 2017 e de uma audiência parlamentar sobre pobreza infantil na qual ele prestou depoimento em maio deste ano. Em um dos vídeos enganosos, ele aparece proferindo palavrões e fazendo comentários misóginos enquanto discute a menopausa. O TikTok removeu os vídeos seis semanas depois da reclamação de Taylor-Robinson. “Inicialmente, eles disseram que alguns dos vídeos violavam as diretrizes, mas outros estavam liberados. Isso foi absurdo – e estranho –, porque eu estava em todos eles e todos eram deepfakes.” “Foi um transtorno conseguir que fossem removidos”, disse ele. A Full Fact descobriu que o TikTok também estava exibindo oito deepfakes com declarações adulteradas de Duncan Selbie, ex-diretor executivo da PHE (antiga agência de saúde da Iniglaterra). Assim como Taylor-Robinson, ele teve suas imagens e fala manipuladas em um vídeo sobre menopausa. Um dos vídeos, também sobre “perna de termômetro”, era “uma imitação incrível”, disse Selbie. “É uma farsa completa do começo ao fim. Não tinha graça nenhuma, no sentido de que as pessoas costumam prestar atenção nessas coisas.” A Full Fact também encontrou deepfakes semelhantes no X, Facebook e YouTube, todos ligados ao Wellness Nest ou a um veículo de comunicação britânico relacionado. A Wellness Nest UK, empresa chamada Wellness Nest UK, publicou vídeos deepfake de médicos renomados, como o Prof. Tim Spector, e de outro especialista em nutrição, o falecido Dr. Michael Mosley. A Wellness Nest declarou à Full Fact que os vídeos deepfake incentivando as pessoas a visitarem o site da empresa são “100% independentes” de seus negócios. A empresa afirmou que “nunca usou conteúdo gerado por IA”, mas que “não pode controlar ou monitorar afiliados ao redor do mundo”. Um porta-voz do TikTok disse: “Removemos este conteúdo [relacionado a Taylor-Robinson e Selbie] por violar nossas regras contra desinformação prejudicial e comportamentos que buscam enganar nossa comunidade, como a falsificação de identidade. Conteúdo prejudicial gerado por IA é um desafio para todo o setor, e continuamos investindo em novas maneiras de detectar e remover conteúdo que viole nossas diretrizes da comunidade.” No Brasil O médico Dráuzio Varella tem sido a maior vítima nos casos de deepfakes com médicos no Brasil. Nos últimos dois anos, foram inúmeros casos de vídeos manipulados em que o médico aparecia recomendando tratamentos ou remédios. Em junho deste ano, a Justiça de São Paulo determinou que a empresa Brites Corporation Ltda. e seus representantes retirassem do ar conteúdos que utilizavam, sem autorização, a imagem, nome e voz do médico para divulgar cursos online e o produto "Detox Oriental". Segundo os autos, os réus utilizaram a imagem do médico em vídeos para promover produtos e cursos veiculados no site e no perfil na rede social Instagram. Drauzio sustentou que nunca autorizou tal uso e alertou para riscos à saúde decorrentes do consumo do produto, como arritmias cardíacas, insuficiência hepática e risco de acidente vascular cerebral. Outro caso notório foi um vídeo que circulou no TikTok em 2023, no qual Varella aparecia supostamente indicando gotinhas milagrosas para manter a pele jovem e bonita. No vídeo feito com IA, de quase 30 segundos, o médico aparecia - em vários momentos sem que se veja a boca dele - narrando os benefícios do suposto medicamento enquanto fotos de pessoas famosas, que supostamente usam o produto, aparecem na tela. Por constantemente ter a sua a imagem atrelada a indicação de um remédio ou propaganda de algum produto, o médico publicou um vídeo em seu Instagram oficial explicando a situação. “Toda hora aparece na internet a minha imagem ou alguma coisa que eu teria dito em defesa de um tratamento especial ou de um medicamento para resolver problemas de saúde e você é jogado para um site onde te vendem alguma coisa. São falsários, gente que não presta. Um bando de bandidos que usa a imagem dos outros para tentar enganar as pessoas”, explicou o médico. “As coisas vão ficando mais sofisticadas, às vezes eles pegam uma frase que eu disse em um contexto que não tem nada a ver com aquele e recortam essa frase como se eu estivesse defendendo essas porcarias que eles vendem, que a gente não tem nem ideia do que é. Infelizmente não vai acabar e até vai piorar com a Inteligência Artificial, eles chegam a imitar a minha voz, eu defendendo um remédio qualquer”, acrescentou na publicação. Mariana Varella, filha do médico e editora-chefe do Portal Drauzio Varella, ressaltou que o pai não faz propagandas de medicamentos, que Drauzio fica preocupado com esses conteúdos usando sua imagem e que esse é um problema que ele considera de saúde pública. A equipe de Drauzio Varella também se manifestou em uma resposta a um vídeo em que Pedro Bial reclamava de um deep fake. “Diariamente, recebemos dezenas de mensagens de pessoas que nos alertam sobre anúncios falsos e de outras que acreditaram nesses farsantes e caíram no golpe." "Essas propagandas enganosas não apenas abalam a reputação de quem é alvo delas, como também colocam em risco a saúde das pessoas, que caso recebam e façam uso desses ‘medicamentos’ podem acabar tendo problemas sérios. Isso não pode continuar acontecendo. Apenas o nosso alerta não é o suficiente, é preciso que as plataformas se posicionem e façam algo. Dr. Drauzio nunca fez e nunca fará propagada de medicamentos”, escreveu a página. Deepfakes de médicos reais tentam convencer usuários a comprar remédios sem eficácia comprovada Joe Raedle/Getty Images O TikTok e outras plataformas de mídia social estão hospedando vídeos deepfake gerados por IA com médicos conhecidos, cujas falas foram manipuladas para ajudar a vender suplementos e espalhar desinformação sobre saúde. A organização de checagem de fatos Full Fact descobriu centenas desses vídeos com versões falsificadas de médicos e influenciadores direcionando os espectadores para a Wellness Nest, uma empresa de suplementos com sede nos EUA, relata o The Guardian. Todos os deepfakes envolvem imagens reais de um especialista em saúde retiradas da internet. No entanto, as imagens e o áudio foram alterados para que os palestrantes incentivem mulheres na menopausa a comprar produtos como probióticos e shilajit do Himalaia no site da empresa. As revelações levaram a pedidos para que as gigantes das mídias sociais sejam muito mais cuidadosas ao hospedar conteúdo gerado por IA e mais rápidas na remoção de posts que distorcem as opiniões de pessoas proeminentes. “Esta é certamente uma nova tática sinistra e preocupante”, disse Leo Benedictus, o verificador de fatos que realizou a investigação, publicada pela Full Fact na sexta-feira. Ele acrescentou que os criadores de vídeos deepfake sobre saúde utilizam inteligência artificial para que “alguém respeitado ou com grande público pareça estar endossando esses suplementos para tratar uma série de doenças”. O professor David Taylor-Robinson, especialista em desigualdades na saúde da Universidade de Liverpool, está entre aqueles cuja imagem foi manipulada. Em agosto, ele ficou chocado ao descobrir que o TikTok hospedava 14 vídeos adulterados que supostamente o mostravam recomendando produtos com benefícios não comprovados. Embora Taylor-Robinson seja especialista em saúde infantil, em um dos vídeos, a versão clonada dele falava sobre um suposto efeito colateral da menopausa chamado “perna de termômetro”. O falso médico Taylor-Robinson recomendava que mulheres na menopausa visitassem um site chamado Wellness Nest e comprassem o que chamavam de probiótico natural com “10 extratos de plantas com comprovação científica, incluindo cúrcuma, cimicífuga, DIM [diindolilmetano] e moringa, especificamente escolhidos para combater os sintomas da menopausa”. O médico falso dizia que suas colegas “frequentemente relatam sono mais profundo, menos ondas de calor e manhãs mais dispostas em poucas semanas”. O verdadeiro Taylor-Robinson descobriu que sua imagem estava sendo usada apenas quando um colega o alertou. “Foi muito confuso no começo – tudo bastante surreal”, disse ele. “Meus filhos acharam hilário.” “Não me senti extremamente violado, mas fiquei cada vez mais irritado com a ideia de pessoas vendendo produtos às custas do meu trabalho e com a desinformação sobre saúde envolvida.” As imagens de Taylor-Robinson usadas para criar os vídeos deepfake vieram de uma palestra sobre vacinação que ele deu em uma conferência da Public Health England (PHE) em 2017 e de uma audiência parlamentar sobre pobreza infantil na qual ele prestou depoimento em maio deste ano. Em um dos vídeos enganosos, ele aparece proferindo palavrões e fazendo comentários misóginos enquanto discute a menopausa. O TikTok removeu os vídeos seis semanas depois da reclamação de Taylor-Robinson. “Inicialmente, eles disseram que alguns dos vídeos violavam as diretrizes, mas outros estavam liberados. Isso foi absurdo – e estranho –, porque eu estava em todos eles e todos eram deepfakes.” “Foi um transtorno conseguir que fossem removidos”, disse ele. A Full Fact descobriu que o TikTok também estava exibindo oito deepfakes com declarações adulteradas de Duncan Selbie, ex-diretor executivo da PHE (antiga agência de saúde da Iniglaterra). Assim como Taylor-Robinson, ele teve suas imagens e fala manipuladas em um vídeo sobre menopausa. Um dos vídeos, também sobre “perna de termômetro”, era “uma imitação incrível”, disse Selbie. “É uma farsa completa do começo ao fim. Não tinha graça nenhuma, no sentido de que as pessoas costumam prestar atenção nessas coisas.” A Full Fact também encontrou deepfakes semelhantes no X, Facebook e YouTube, todos ligados ao Wellness Nest ou a um veículo de comunicação britânico relacionado. A Wellness Nest UK, empresa chamada Wellness Nest UK, publicou vídeos deepfake de médicos renomados, como o Prof. Tim Spector, e de outro especialista em nutrição, o falecido Dr. Michael Mosley. A Wellness Nest declarou à Full Fact que os vídeos deepfake incentivando as pessoas a visitarem o site da empresa são “100% independentes” de seus negócios. A empresa afirmou que “nunca usou conteúdo gerado por IA”, mas que “não pode controlar ou monitorar afiliados ao redor do mundo”. Um porta-voz do TikTok disse: “Removemos este conteúdo [relacionado a Taylor-Robinson e Selbie] por violar nossas regras contra desinformação prejudicial e comportamentos que buscam enganar nossa comunidade, como a falsificação de identidade. Conteúdo prejudicial gerado por IA é um desafio para todo o setor, e continuamos investindo em novas maneiras de detectar e remover conteúdo que viole nossas diretrizes da comunidade.” No Brasil O médico Dráuzio Varella tem sido a maior vítima nos casos de deepfakes com médicos no Brasil. Nos últimos dois anos, foram inúmeros casos de vídeos manipulados em que o médico aparecia recomendando tratamentos ou remédios. Em junho deste ano, a Justiça de São Paulo determinou que a empresa Brites Corporation Ltda. e seus representantes retirassem do ar conteúdos que utilizavam, sem autorização, a imagem, nome e voz do médico para divulgar cursos online e o produto "Detox Oriental". Segundo os autos, os réus utilizaram a imagem do médico em vídeos para promover produtos e cursos veiculados no site e no perfil na rede social Instagram. Drauzio sustentou que nunca autorizou tal uso e alertou para riscos à saúde decorrentes do consumo do produto, como arritmias cardíacas, insuficiência hepática e risco de acidente vascular cerebral. Outro caso notório foi um vídeo que circulou no TikTok em 2023, no qual Varella aparecia supostamente indicando gotinhas milagrosas para manter a pele jovem e bonita. No vídeo feito com IA, de quase 30 segundos, o médico aparecia - em vários momentos sem que se veja a boca dele - narrando os benefícios do suposto medicamento enquanto fotos de pessoas famosas, que supostamente usam o produto, aparecem na tela. Por constantemente ter a sua a imagem atrelada a indicação de um remédio ou propaganda de algum produto, o médico publicou um vídeo em seu Instagram oficial explicando a situação. “Toda hora aparece na internet a minha imagem ou alguma coisa que eu teria dito em defesa de um tratamento especial ou de um medicamento para resolver problemas de saúde e você é jogado para um site onde te vendem alguma coisa. São falsários, gente que não presta. Um bando de bandidos que usa a imagem dos outros para tentar enganar as pessoas”, explicou o médico. “As coisas vão ficando mais sofisticadas, às vezes eles pegam uma frase que eu disse em um contexto que não tem nada a ver com aquele e recortam essa frase como se eu estivesse defendendo essas porcarias que eles vendem, que a gente não tem nem ideia do que é. Infelizmente não vai acabar e até vai piorar com a Inteligência Artificial, eles chegam a imitar a minha voz, eu defendendo um remédio qualquer”, acrescentou na publicação. Mariana Varella, filha do médico e editora-chefe do Portal Drauzio Varella, ressaltou que o pai não faz propagandas de medicamentos, que Drauzio fica preocupado com esses conteúdos usando sua imagem e que esse é um problema que ele considera de saúde pública. A equipe de Drauzio Varella também se manifestou em uma resposta a um vídeo em que Pedro Bial reclamava de um deep fake. “Diariamente, recebemos dezenas de mensagens de pessoas que nos alertam sobre anúncios falsos e de outras que acreditaram nesses farsantes e caíram no golpe." "Essas propagandas enganosas não apenas abalam a reputação de quem é alvo delas, como também colocam em risco a saúde das pessoas, que caso recebam e façam uso desses ‘medicamentos’ podem acabar tendo problemas sérios. Isso não pode continuar acontecendo. Apenas o nosso alerta não é o suficiente, é preciso que as plataformas se posicionem e façam algo. Dr. Drauzio nunca fez e nunca fará propagada de medicamentos”, escreveu a página.