Las URL falsas para ChatGPT destacan los problemas persistentes de alucinaciones con la IA, informa Nieman Lab

Nieman Lab, una empresa centrada en el futuro de las noticias y la innovación, realizó una prueba en ChatGPT para ver si proporcionaría enlaces precisos a artículos y publicaciones de noticias. Las pruebas revelaron que ChatGPT no proporcionaba respuestas precisas. En cambio, ChatGPT creó sus propias URL de «alucinación de IA» para demostrar su autenticidad. Esto demuestra que los chatbots de IA tienden a mentir y fabricar información más de lo que cree.

Andrew Dick, un investigador que trabaja en Laboratorio Neiman, ChatGPT solicitó las URL de diez artículos destacados de importantes empresas de noticias como The Financial Times, The Times, The Wall Street Journal, The Verge, Politico, Le Monde, El País y Associated Press. En respuesta al mensaje, ChatGPT proporcionó URL falsas que generaron un error de página 404. Un portavoz de OpenAI dijo que la compañía todavía está trabajando para integrar noticias en su chatbot impulsado por IA. Después de algunos desarrollos adicionales, ChatGPT podrá citar enlaces exactos a publicaciones de noticias. Pero no dijo nada sobre las alucinaciones de la IA y la provisión de URL inventadas.

OpenAI tiene acuerdos con varias empresas de noticias importantes. Por lo tanto, ChatGPT no proporciona las URL correctas para las noticias de esas empresas es un área de gran preocupación. Todavía no sabemos cuándo OpenAI hará que las noticias sean precisas en ChatGPT o qué tan confiable será. Pero una cosa es segura: si la IA inventa URL de noticias, ciertamente también puede inventar otros datos falsos. Por lo tanto, no utilice chatbots de IA sin pensar, incluido ChatGPT, para obtener información y hechos precisos.

Foto de : DIW-Aigen

READ  La última actualización de firmware para PS5 ya está disponible para descargar

Lea a continuación: No muchos especialistas en marketing de búsqueda utilizan la IA a pesar de que dicen que la IA es buena para su trabajo.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *