CNN Innovation: o que há por trás dos erros da Inteligência Artificial?

<p><&sol;p>&NewLine;<div>&NewLine;<p>A inteligência artificial &lpar;IA&rpar; tem revolucionado diversos setores&comma; mas também apresenta desafios significativos&period; Um deles é o fenômeno conhecido como &OpenCurlyDoubleQuote;alucinações”&comma; termo utilizado pela indústria tecnológica para descrever erros cometidos por sistemas de IA generativa&period;<&sol;p>&NewLine;<p>Marcelo Tripoli&comma; comentarista de inovação da CNN&comma; explica que&comma; diferentemente de uma busca no Google&comma; as respostas fornecidas pela IA parecem muito assertivas&comma; o que pode levar os usuários a confiar excessivamente nelas&period; &OpenCurlyDoubleQuote;A alucinação do AI normalmente é bem construída&comma; não é uma frase sem nexo”&comma; afirma Tripoli&period;<&sol;p>&NewLine;<aside class&equals;"read-too read-too--with-img">&NewLine;<h2 class&equals;"read-too&lowbar;&lowbar;title'&gt&semi;Leia mais&lt&semi;&sol;h2&gt&semi; &lt&semi;ul class&equals;" read-too&lowbar;&lowbar;list&equals;""> <&sol;h2>&NewLine;<li class&equals;"read-too&lowbar;&lowbar;list-item"> <picture class&equals;"read-too&lowbar;&lowbar;picture"> <&sol;picture>&NewLine;<h3 class&equals;"read-too&lowbar;&lowbar;post-title">10 alternativas ao ChatGPT&colon; conheça IAs com diferentes soluções<&sol;h3>&NewLine;<&sol;li>&NewLine;<li class&equals;"read-too&lowbar;&lowbar;list-item"> <picture class&equals;"read-too&lowbar;&lowbar;picture"> <&sol;picture>&NewLine;<h3 class&equals;"read-too&lowbar;&lowbar;post-title">Após polêmica&comma; TikTok remove filtro que deixava usuários mais gordos<&sol;h3>&NewLine;<&sol;li>&NewLine;<li class&equals;"read-too&lowbar;&lowbar;list-item"> <picture class&equals;"read-too&lowbar;&lowbar;picture"> <&sol;picture>&NewLine;<h3 class&equals;"read-too&lowbar;&lowbar;post-title">Como agentes de IA funcionam e podem ajudar na sua rotina&quest;<&sol;h3>&NewLine;<&sol;li>&NewLine;<&sol;aside>&NewLine;<h2>O perigo das respostas aparentemente precisas<&sol;h2>&NewLine;<p>O especialista alerta que essa confiança pode induzir a erros significativos e decisões equivocadas&period; &OpenCurlyDoubleQuote;Ele chuta muito bem&period; Ele na verdade não sabe&comma; mas ele vai ali com fé na resposta dele”&comma; explica Tripoli&comma; ressaltando que isso pode levar a pessoa a tomar decisões baseadas em informações incorretas&period;<&sol;p>&NewLine;<p>Um teste realizado com o ChatGPT demonstrou essa problemática&period; Ao ser questionado sobre o filme &OpenCurlyDoubleQuote;Ainda Estou Aqui” de Walter Salles&comma; o sistema forneceu informações completamente equivocadas em três tentativas diferentes&comma; sem admitir desconhecimento&period;<&sol;p>&NewLine;<h2>Fatores que influenciam as &OpenCurlyDoubleQuote;alucinações”<&sol;h2>&NewLine;<p>Tripoli esclarece que as alucinações ocorrem devido a diversos fatores&comma; incluindo a desatualização da base de dados e a análise estatística realizada pela IA&period; &OpenCurlyDoubleQuote;O que a máquina está fazendo é uma análise probabilística de uso de palavras”&comma; explica&period;<&sol;p>&NewLine;<p>O comentarista também destaca que o idioma da consulta pode influenciar a precisão das respostas&comma; já que muitos sistemas de IA são desenvolvidos primariamente em inglês e realizam traduções em tempo real para outros idiomas&period;<&sol;p>&NewLine;<h2>Recomendações para uso seguro<&sol;h2>&NewLine;<p>Para evitar problemas decorrentes das alucinações da IA&comma; Tripoli recomenda&colon;<&sol;p>&NewLine;<ol>&NewLine;<li>Verificar a informação em mais de uma fonte de IA&semi;<&sol;li>&NewLine;<li>Não considerar a primeira resposta como definitiva&semi;<&sol;li>&NewLine;<li>Manter uma postura crítica em relação às informações recebidas&semi;<&sol;li>&NewLine;<li>Não utilizar a IA como ferramenta definitiva para tomada de decisões importantes sem verificação adicional&period;<&sol;li>&NewLine;<&sol;ol>&NewLine;<p>Apesar dos desafios atuais&comma; Tripoli é otimista quanto ao futuro&period; Ele prevê que o percentual de alucinações tende a diminuir significativamente nos próximos anos&comma; possivelmente chegando a menos de 2&percnt; de erro&period; No entanto&comma; até lá&comma; a vigilância e a verificação humana continuam sendo essenciais no uso de sistemas de IA&period;<&sol;p>&NewLine;<blockquote class&equals;"wp-embedded-content" data-secret&equals;"OFngQRRzU6">&NewLine;<p><a rel&equals;"nofollow" target&equals;"&lowbar;blank" href&equals;"https&colon;&sol;&sol;stories&period;cnnbrasil&period;com&period;br&sol;tecnologia&sol;brasil-esta-entre-os-paises-que-mais-usam-inteligencia-artificial&sol;">Brasil está entre os países que mais usam inteligência artificial<&sol;a><&sol;p>&NewLine;<&sol;blockquote>&NewLine;<p><iframe class&equals;"wp-embedded-content" sandbox&equals;"allow-scripts" ><&sol;iframe><&sol;p>&NewLine;<div class&equals;"disclaimer&lowbar;&lowbar;ai"> <em>Os textos gerados por inteligência artificial na <strong>CNN Brasil<&sol;strong> são feitos com base nos cortes de vídeos dos jornais de sua programação&period; Todas as informações são apuradas e checadas por jornalistas&period; O texto final também passa pela revisão da equipe de jornalismo da <strong>CNN<&sol;strong>&period; Clique aqui para saber mais&period;<&sol;em><&sol;div>&NewLine;<&sol;div>&NewLine;<p><a href&equals;"https&colon;&sol;&sol;www&period;cnnbrasil&period;com&period;br&sol;tecnologia&sol;cnn-innovation-o-que-ha-por-tras-dos-erros-da-inteligencia-artificial&sol;">Fonte&colon; Clique aqui<&sol;a><&sol;p>&NewLine;&NewLine;