Desde ponerle pegamento a la pizza hasta perros en la NBA: la IA de Google empezó a alucinar en sus respuestas

La semana pasada, Google anunció importantes planes para cambiar su página de resultados de búsqueda. Su idea era darle prioridad a una función llamada AI Overview, que utiliza inteligencia artificial para resumir la información que las personas buscan en su plataforma. Pero la propuesta no salió como se esperaba.

Según denunciaron varios usuarios en las redes sociales, la nueva función brinda resultados inexactos y, en algunos casos, consejos peligrosos, como, por ejemplo, usar pegamento sintético para que el queso no se deslice de la pizza.

Desde Google explicaron que se trataba de ejemplos aislados. Sin embargo, los reclamos afirmaban que la IA alucinaba y respondía incoherencias que, en algunos casos, estaban basadas en comentarios de Reddit o artículos del medio humorístico The Onion.

Además de la sugerencia de usar pegamento en la pizza, AI Overview también respondió que algunos perros habían jugado en la NBA y en la NFL (la liga de fútbol americano de Estados Unidos) y que Barack Obama fue el primer presidente musulmán de Estados Unidos. Otro usuario denunció que Google le sugirió desinfectar un lavarropas con una receta potencialmente mortal de gas mostaza.

Después de esta situación, Google anunció este viernes que está tomando medidas rápidas para mejorar sus nuevos resultados de búsqueda elaborados con inteligencia artificial generativa: “Muchos de los ejemplos que hemos visto eran consultas poco comunes, y también hemos visto ejemplos manipulados o que no pudimos reproducir”, afirmó la empresa. Y agregaron que seguirán trabajando para desarrollar mejoras más amplias en sus sistemas.

Por último, aseguraron que la inmensa mayoría de las respuestas elaboradas por su IA proporciona información fiable y las barreras de seguridad integradas en la tecnología están diseñadas para evitar que aparezcan contenidos nocivos.

Qué es Google AI Overview

Las respuestas breves a preguntas objetivas están disponibles desde hace tiempo en el motor de búsqueda en forma de previsualizaciones de fragmentos de texto en los enlaces, sin embargo, los nuevos resúmenes de IA (AI Overview) tienen a veces varias líneas de longitud y se generan con inteligencia artificial solo en respuesta a la consulta de búsqueda del usuario.

AI Overviews ofrece respuestas a las consultas utilizando la tecnología de IA generativa de Google Gemini. Proporciona algunos fragmentos de una respuesta basada en su comprensión de las consultas y el contenido que encontró sobre el tema en la web.

Estos resúmenes, que solo se muestran, por ahora, en Estados Unidos, tienen el objetivo de darle a los usuarios una respuesta más inmediata a sus preguntas, en lugar de ofrecerles solo enlaces a sitios web donde podrían encontrar una solución.