Google desestima los errores salvajes de IA como incidentes aislados, según un nuevo informe.

Eduardo Ruiz 24 mayo, 2024

Google recientemente ha puesto a disposición del público en general su experiencia de visión general de Inteligencia Artificial en Búsqueda, y desafortunadamente, parece estar causando cierto caos. Esta característica utiliza la IA generativa para crear resúmenes o respuestas directas a las consultas de los usuarios mediante la condensación de información de diversas fuentes para una fácil consulta y comprensión rápida.

Sin embargo, desde su lanzamiento, ha habido numerosas instancias de las Visones Generales de IA de Búsqueda de Google que proporcionan información flagrantemente incorrecta. Ejemplos incluyen sugerir añadir pegamento a la pizza para que el queso se adhiera, afirmar que el pollo solo necesita cocinarse a 102 grados Fahrenheit, afirmar que el líquido de señalización es un producto real, aconsejar a las personas apagar incendios de aceite añadiendo más aceite, y afirmar que no hay ningún país africano que comience con la letra “K.” Además, la IA también está plagiando contenido de otros sitios web sin la atribución debida.

A pesar de estos resultados problemáticos, Google insiste en que tales errores son casos aislados y que la mayoría de los resultados de las Visiones Generales de IA son precisos. La compañía afirmó que estos errores suelen estar vinculados a consultas poco comunes y no reflejan la experiencia típica del usuario. Google está trabajando para refinar la característica de la Visión General de IA en base a estos ejemplos con el fin de mejorar su rendimiento con el tiempo.

Aunque se esperaban resultados defectuosos con la implementación de IA en Búsqueda, la rápida ocurrencia de errores tan evidentes plantea preocupaciones, especialmente teniendo en cuenta que las Visiones Generales de IA son ahora la experiencia por defecto en la Búsqueda de Google y no se pueden desactivar. Queda por ver cómo Google abordará estos problemas y garantizará la precisión y fiabilidad de los contenidos generados por IA en el futuro.

En definitiva, aunque la IA tiene el potencial de revolucionar las experiencias de búsqueda, es crucial que empresas como Google prioricen la precisión y la calidad para prevenir desinformación y confusión entre los usuarios. A medida que se solucionen estos problemas, los usuarios pueden esperar mejoras en la fiabilidad de los contenidos generados por IA en la Búsqueda de Google.

Fuente