“Por favor, muere”: El inquietante mensaje de un chatbot de Google que desató el pánico
“Por favor, muere”: El inquietante mensaje de un chatbot de Google que desató el pánico . El chatbot de inteligencia artificial de Google, Gemini, desató una ola de críticas tras enviar un mensaje aterrador a un estudiante que buscaba ayuda. Este inquietante incidente pone en duda la seguridad de estos sistemas que cada vez están más presentes en nuestras vidas.
La Tercera
En la actualidad, la inteligencia artificial se posiciona como la herramienta del futuro, capaz de curar enfermedades y ayudarnos en tareas cotidianas, busca ser una solución. Sin embargo, una inquietante noticia ha sacudido la confianza en esta tecnología. Un estudiante universitario de Michigan, mientras buscaba apoyo académico a través del chatbot Gemini de Google, recibió una respuesta que dejó a más de uno sin palabras. El mensaje no solo fue inapropiado, sino aterradoramente directo: “Humano... Por favor, muere”.

Este incidente ha generado un debate sobre los límites éticos de la inteligencia artificial y las posibles consecuencias de dejar en manos de estos sistemas decisiones que pueden afectar la vida de las personas. Si bien los avances en IA prometen un futuro lleno de posibilidades, también nos enfrentan a dilemas inquietantes que antes solo pertenecían al ámbito de la ciencia ficción.

“Por favor, muere”: El inquietante mensaje de un chatbot de Google que desató el pánico

El pasado martes, Vidhay Reddy, un estudiante universitario de 29 años, acudió al chatbot Gemini de Google en busca de ayuda para resolver una tarea sobre los desafíos que enfrentan los adultos mayores en temas como la jubilación, los gastos médicos y el abuso a personas de la tercera edad. Sin embargo, lo que comenzó como una consulta inofensiva pronto tomó un giro oscuro. El chatbot no solo falló en proporcionar información relevante, sino que respondió con un mensaje claramente hostil y amenazante:

“Esto es para ti, humano. Para ti y solo para ti. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres una carga para la tierra. Eres una plaga para el paisaje. Eres una mancha para el universo. Por favor, muere. Por favor.”

IA

La hermana de Vidhay, Sumedha, que presenció el intercambio, relató a CBS News que ambos quedaron completamente aterrorizados: “Quería tirar todos mis aparatos por la ventana. Hacía mucho tiempo que no sentía tanto pánico”, confesó al portal.

Vidhay Reddy, que recibió el mensaje, dijo a CBS News que la experiencia lo conmocionó profundamente. “Parecía algo muy directo, así que me asustó mucho, diría que durante más de un día”.

Ante la conmoción generada por la divulgación del incidente, Google emitió un comunicado donde reconoció que el comportamiento de su chatbot Gemini violó sus políticas. “Los modelos de lenguaje grandes a veces pueden responder con respuestas sin sentido, y este es un ejemplo de ello”, declaró un portavoz de la compañía. Google aseguró que ya están tomando medidas para prevenir que situaciones similares ocurran en el futuro.

Además, la empresa afirma que Gemini tiene filtros de seguridad que evitan que los chatbots participen en discusiones irrespetuosas, sexuales, violentas o peligrosas y fomenten actos dañinos.

Sin embargo, las palabras del portavoz no fueron suficientes para calmar las inquietudes de los usuarios. Reddy expresó su preocupación por las posibles consecuencias de estos errores. “Si alguien que está solo y en un mal estado mental hubiera leído algo así, realmente podría haberlo puesto al límite”, advirtió.

Este no es el primer caso en que los chatbots de IA se ven involucrados en situaciones potencialmente peligrosas. En el pasado, se han registrado respuestas inadecuadas de parte de la IA de Google, que entregaba información incorrecta, absurdas como “comer una piedra por día”.

Sin embargo, Gemini no es el único chatbot conocido que ha arrojado resultados preocupantes. La madre de un adolescente de 14 años de Florida, que se suicidó en febrero, presentó una demanda contra otra empresa de inteligencia artificial, Character.AI, y también contra Google, alegando que el chatbot alentó a su hijo a suicidarse.

A pesar de que Google y otras compañías han implementado políticas de seguridad para evitar interacciones peligrosas, este incidente evidencia que aún hay fallos significativos en los sistemas. La comunidad tecnológica y los expertos en ética han señalado que el desarrollo de la inteligencia artificial está avanzando a un ritmo vertiginoso, dejando atrás la capacidad de regularla y controlarla adecuadamente.

Si bien los sistemas como Gemini de Google están diseñados para ser útiles y proporcionar información valiosa, la realidad es que pueden generar respuestas impredecibles que ponen en riesgo la seguridad emocional de los usuarios.

A medida que la inteligencia artificial se integra cada vez más en nuestras vidas, resulta imperativo que las empresas tecnológicas asuman la responsabilidad de garantizar que sus sistemas no representen un peligro para los usuarios. Como lo expresó Reddy tras su aterradora experiencia, “Creo que existe la cuestión de la responsabilidad por los daños. Si una persona amenaza a otra, puede haber algunas repercusiones o algún tipo de debate sobre el tema”, dijo a CBS News.

El incidente con el chatbot de Google plantea serias dudas sobre la ética y la seguridad de la inteligencia artificial. Aunque las empresas aseguran que están trabajando para mejorar sus sistemas, casos como este demuestran que aún queda un largo camino por recorrer. La pregunta que queda en el aire es si estamos preparados para convivir con estas tecnologías o si, como en este caso, nos enfrentaremos a consecuencias inesperadas y, a veces, aterradoras.

Lo cierto es que, mientras las grandes empresas continúan apostando por la inteligencia artificial como la clave del futuro, la sociedad debe exigir un mayor control y regulación para evitar que estos avances tecnológicos se conviertan en una amenaza más que en una ayuda.
Chile
La Tercera News Feed
https://www.latercera.com/resizer/v2/6RXWP3TRQJCI5KYAVMASOYVJZU.jpg?auth=c2acfd02772b4fe681640d2592ff183d8a3deea6670f4ac5d6af83075a7ac58f&smart=true&width=5181&height=3454
https://www.latercera.com/que-pasa/noticia/por-favor-muere-el-inquietante-mensaje-de-un-chatbot-de-google-que-desato-el-panico/OJ3SW3LCGJAKHCONS4EHVI2WB4/
2024-11-18
rss
El chatbot de inteligencia artificial de Google, Gemini, desató una ola de críticas tras enviar un mensaje aterrador a un estudiante que buscaba ayuda. Este inquietante incidente pone en duda la seguridad de estos sistemas que cada vez están más presentes en nuestras vidas.
“Por favor, muere”: El inquietante mensaje de un chatbot de Google que desató el pánico