AI hallucinations // Alucinações da IA

The causes of AI hallucinations are related to a combination of factors, such as the complexity of the training data, the lack of filtering of training data that is collected from public sources and the lack of transparency of AI algorithms. However, as we are advancing at an absurd speed in these technologies, I believe that this will soon cease to be so common and perhaps it will become just a purposeful whim (in the same way that a movie director sometimes emulates amateurism in order to capture a certain emotion in the viewer). Until then, all we can do is revel in the absurdities.

Português

A inteligência artificial (IA) tem avançado de forma meteórica nas últimas décadas, tornando-se cada vez mais sofisticada e capaz de realizar tarefas que antes eram consideradas exclusivas dos humanos. No entanto, essa evolução também trouxe consigo alguns problemas, como a "descoberta" das "alucinações da IA". Que são respostas confiantes por parte de um sistema de IA que não parecem ser justificadas pelos dados de treinamento. Elas podem se manifestar de diversas formas, como na geração de imagens ou vídeos que não correspondem à realidade, na tradução de textos que são incompreensíveis ou na identificação de objetos ou pessoas que não existem.

Source

Um exemplo disso é a própria pesquisa que fiz sobre esse tema perguntando para o Bard a IA do Google à respeito das "alucinações da IA" e ele respondeu:
-A inteligência artificial (IA) está se tornando cada vez mais sofisticada, e com isso, surgem novas possibilidades e desafios. Um dos desafios mais importantes é o de garantir que a IA seja segura e confiável.
Uma das formas de garantir a segurança da IA é identificar e mitigar os riscos de alucinações. Alucinações são percepções que não correspondem à realidade, e podem ser causadas por uma variedade de fatores, incluindo doenças mentais, drogas e distúrbios neurológicos.

HAHAHA! LOL

Fico imaginando a quantidade de erros menores que esse que passam batido por quem vem usando as IAs para suas pesquisas e que vão gerar problema por conteúdo caótico e duvidoso. Confesso que acima de qualquer coisa acho curioso e divertido esse "distúrbio da máquina" e que olhando por um viés artístico e criativo, pode ser muito útil até mesmo para entretenimento. Gostaria inclusive de mergulhar mais fundo nisso e saber se não existem geradores propositais de anomalias por exemplo musicais. Já podemos ver isso aplicado muito firmemente no entretenimento de videos feito por IA, como por exemplo esses:

As causas das alucinações da IA estão relacionadas a uma combinação de fatores, como a complexidade dos dados de treinamento, a falta de filtro dos dados de treinamento que são coletados de fontes públicas e a falta de transparência dos algoritmos de IA. Porém como estamos avançando em velocidade absurda nessas tecnologias, acredito que em breve isso vai deixar de ser algo tão comum e quem sabe torne-se apenas um capricho proposital (da mesma forma que um diretor de cinema as vezes emula o amadorismo para capturar certa emoção ao telespectador). Até lá só resta se divertir com os absurdos.