<\/p>\n
Uma nova investiga\u00e7\u00e3o da Associated Press revelou que a Whisper, uma ferramenta de transcri\u00e7\u00e3o de IA usada em Hospitais, apresenta frequentes \u201calucina\u00e7\u00f5es\u201d e erros, com o modelo de IA frequentemente inventando textos completamente fora de contexto.<\/p>\n
O mais preocupante, de acordo com a AP, \u00e9 quem est\u00e1 confiando nessa tecnologia. Embora a OpenAI tenha alertado que seu modelo n\u00e3o deve ser usado em \u201c\u00e1reas de alto risco,\u201d mais de 30.000 profissionais de sa\u00fade e 40 sistemas de sa\u00fade est\u00e3o utilizando o Nabla, uma ferramenta baseada no Whisper, para transcrever e resumir intera\u00e7\u00f5es com pacientes \u2014 quase certamente com resultados imprecisos.<\/p>\n
Em um ambiente m\u00e9dico, isso pode ter \u201cconsequ\u00eancias realmente graves,\u201d afirmou Alondra Nelson, professora do Instituto de Estudos Avan\u00e7ados, \u00e0 AP. \u201cNingu\u00e9m quer um diagn\u00f3stico errado,\u201d disse Nelson. \u201cDeveria haver um n\u00edvel de exig\u00eancia mais alto.\u201d<\/p>\n
Martin Raison, diretor de tecnologia da Nabla, disse \u00e0 AP que o Whisper foi ajustado para linguagem m\u00e9dica. Mesmo assim, ele n\u00e3o consegue escapar da falta de confiabilidade inerente ao modelo base.<\/p>\n
Um engenheiro de aprendizado de m\u00e1quina contou \u00e0 AP que encontrou alucina\u00e7\u00f5es em metade das mais de 100 horas de transcri\u00e7\u00f5es que analisou. Outro, que examinou 26.000 transcri\u00e7\u00f5es, disse ter encontrado alucina\u00e7\u00f5es em quase todas elas.<\/p>\n
Em um estudo recente, o Whisper teve desempenho ruim mesmo com amostras curtas e bem gravadas de \u00e1udio, e pesquisadores alertaram que, em milh\u00f5es de grava\u00e7\u00f5es, poderiam ocorrer dezenas de milhares de alucina\u00e7\u00f5es.<\/p>\n
Outro grupo de pesquisadores revelou a gravidade desses erros: o Whisper acrescentava coment\u00e1rios raciais, inventava medica\u00e7\u00f5es inexistentes e descrevia atos violentos ou sexuais sem qualquer fundamento na fala original. Em alguns casos, at\u00e9 inseria express\u00f5es de youtubers, como \u201ccurta e se inscreva,\u201d sem motivo.<\/p>\n
No geral, quase 40% desses erros foram classificados como prejudiciais ou preocupantes, pois poderiam facilmente distorcer o que o falante realmente disse.<\/p>\n
A extens\u00e3o do problema \u00e9 vasta. Segundo a Nabla, seu sistema foi usado para transcrever cerca de sete milh\u00f5es de visitas m\u00e9dicas, cujas documenta\u00e7\u00f5es agora podem conter erros prejudiciais.<\/p>\n
Ainda mais preocupante \u00e9 que n\u00e3o h\u00e1 como verificar a precis\u00e3o das transcri\u00e7\u00f5es, j\u00e1 que a ferramenta apaga as grava\u00e7\u00f5es originais \u201cpor quest\u00f5es de seguran\u00e7a de dados,\u201d segundo Raison. A menos que os profissionais de sa\u00fade tenham mantido uma c\u00f3pia das grava\u00e7\u00f5es, qualquer alucina\u00e7\u00e3o ser\u00e1 incorporada ao registro oficial.<\/p>\n
\u201cVoc\u00ea n\u00e3o consegue detectar erros se elimina a verdade original,\u201d afirmou William Saunders, um engenheiro de pesquisa que deixou a OpenAI em protesto, \u00e0 AP.<\/p>\n
Executivos da Nabla disseram estar cientes do problema de alucina\u00e7\u00f5es no Whisper e que est\u00e3o buscando solu\u00e7\u00f5es. No entanto, essa \u201cconsci\u00eancia\u201d n\u00e3o impediu a empresa de implementar uma tecnologia experimental e ainda altamente falha na \u00e1rea m\u00e9dica.<\/p>\n
Veja mais sobre tecnologia!<\/p>\n
<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"
Uma nova investiga\u00e7\u00e3o da Associated Press revelou que a Whisper, uma ferramenta de transcri\u00e7\u00e3o de IA usada em Hospitais, apresenta frequentes \u201calucina\u00e7\u00f5es\u201d e erros, com o modelo de IA frequentemente inventando textos completamente fora de contexto. O mais preocupante, de acordo com a AP, \u00e9 quem est\u00e1 confiando nessa tecnologia. Embora a OpenAI tenha alertado …<\/p>\n","protected":false},"author":1,"featured_media":13551,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"_shortscore_rating":"","_shortscore_game":"","_shortscore_summary":"","footnotes":""},"categories":[92],"tags":[899,3079,3074,3075,3073,3072,3081,3077,3078,3076,3080,1727],"coauthors":[393],"class_list":["post-13550","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-geek","tag-ate","tag-atos","tag-criando","tag-detalhes","tag-flagrada","tag-hospitais","tag-inexistentes","tag-inventando","tag-medicacoes","tag-pacientes","tag-sexuais","tag-usada"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t