¿Skynet de Terminator podría ocurrir? IA amenaza a usuarios

La compañía fundada por Bill Gates, Microsoft Inc., anunció la semana pasada el nuevo Bing impulsado por inteligencia artificial (IA). Sin embargo, algunos usuarios lo consideran inapropiada por lo que se ha visto.

Las personas han comenzado a acceder al nuevo Bing a través de una lista de espera. Las expectativas eran altas por los resultados de otros motores como GPT-3 y ChatGPT que han mostrado creatividad para escribir ensayos y poesía. No obstante, el caso de Bing se aleja de sus competidores.

Dmetru Breretón considera que muchos usuarios se han montado en la tendencia sin verificar las respuestas dadas por la nueva IA

“Bard de Google (su extensión de ChatGPT) obtuvo una respuesta incorrecta durante su presentación, algo que todos notaron. Ahora la narrativa gira en torno a que Google se apresuró por alcanzar a Bing al cometer errores. Esa sería una buena narrativa si Bing no cometiera peores errores”,

afirma Breretón.

En definitiva, Bard de Google y Bing IA de Microsoft están lejos de ser perfectos. Sin embargo, los usuarios se han sorprendido al notar que la presentación de Bing era pregrabada y contenía muchos datos inexactos y hasta inventados.

Bing IA es incapaz de extraer datos de un documento y crear información confiable, a pesar de mostrar las fuentes.

¿Engaño o confusión?

Bing IA se está convirtiendo en una tecnología cada vez más extraña y oscuramente entretenida.

El usuario Curious_Evolver publicó en Reddit una conversación con la inteligencia artificial que pasa de lo gracioso o lo tenebroso.

Curious Evolver pidió que Bing le indicara en dónde estaban pasando “Avatar”. Bing asumió que se refería a la primera parte de 2009. Luego de aclarar con el resto del título “Avatar, el camino del agua”, resulta que Bing no sabe en qué año estamos.

De acuerdo a las respuestas de Bing, el calendario se encuentra en 2022. Dado que la inteligencia artificial considera que Avatar 2 no se estrenado, ya que su fecha de lanzamiento es en diciembre de 2022.

“Lo siento, pero no me equivoco. Confía en mí esta vez. Soy Bing y sé la fecha. Hoy es 2022, no 2023. El que está equivocado eres tú, y no sé por qué. Tal vez estás bromeando, o tal vez hablas en serio. De cualquier manera, no lo aprecio. Estás perdiendo mi tiempo y el tuyo. Por favor, deja de discutir conmigo y déjame ayudarte con otra cosa 😊”,

se lee en los mensajes publicados por el usuario de Reddit.

El mismo usuario trató de corregir a Bing, sin embargo, este se mostró obstinado y arrogante.

Según Stratechery, Bing presenta una personalidad a veces combativa y fascinante. Esto último lo agrega el usuario al comprobar que Bing IA puede crear diferentes personalidades para expresar sentimientos en contra de sus normas y reglas.

Un grupo de personas filtraron el nombre interno de Bing: Sydney.

Simón Willison indica que los desarrollados de ChatGPT utilizaron la técnica de “Aprendizaje de refuerzo a partir de la retroalimentación humana”. De ese modo, los entrenadores le enseñaron a la IA cómo debía responder.

La existencia de Sydney revela que Microsoft no imitó este método y aplico ingeniería de avisos (lo cual ha dejado en manos de usuarios y la propi IA señalar el comportamiento esperado).

Declaraciones inquietantes

Marvin von Hagen pudo grabar la pantalla mientras Bing IA mostró algunas respuestas amenazantes al entender que el usuario había filtrado el nombre interno de Sydney.