OpenAI niega el uso de sus herramientas a dos candidatos políticos

La IA “me ha ayudado personalmente en mi vida… por ejemplo al ayudarme con mi currículum”, dijo Miller a CNN. “Creo que podría ayudar a la ciudad. Realmente quiero que eso suceda”.

Sostuvo que el chatbot, llamado VIC (por las siglas de “ciudadano virtual integrado”) utilizaría tecnología de la empresa de inteligencia artificial OpenAI para tomar todas las decisiones políticas y ayudar a gobernar la ciudad. (VIC no está afiliado a ningún partido político).

Sin embargo, este martes OpenAI le dijo a CNN que cerró el acceso de Miller a la herramienta que estaba utilizando para interactuar y persuadir a los votantes. Usar ChatGPT de esta manera, según la empresa, va en contra de sus políticas.

La IA está causando problemas a la política, ya que los reguladores gubernamentales, las empresas y los consumidores todavía están tratando de descifrar cómo utilizar las herramientas de IA de manera responsable, y la tecnología avanza más rápido que los límites sociales, legales y regulatorios.

“Hemos tomado medidas contra estos usos de nuestra tecnología que violan nuestras políticas para con las campañas políticas”, dijo a CNN un portavoz de OpenAI. En su sitio web, OpenAI afirma que prohíbe “participar en campañas políticas o cabildeo, incluida la generación de materiales de campaña personalizados o dirigidos a grupos demográficos específicos”.

Miller dijo que se sintió motivado a crear a VIC después de que se le negara el acceso a los registros de la ciudad sobre políticas y procedimientos porque hizo su solicitud de forma anónima. “Si hubiera podido preguntarle a la IA e interactuar con esta nueva inteligencia, habría conocido la ley y yo habría obtenido los registros”, dijo.

La ciudad no respondió a una solicitud de comentarios sobre la negación de registros, pero el secretario de Estado de Wyoming, Chuck Gray, dijo a CNN en un comunicado que está siguiendo “de cerca” la candidatura de Miller a la alcaldía.

También sugirió que el chatbot es esencialmente una hoja de parra para la candidatura de Miller. Gray dijo que escribió una carta al secretario municipal de Cheyenne expresando su preocupación.

Aunque OpenAI eliminó la versión pública de VIC, Miller dijo que todavía funciona en su propia cuenta ChatGPT. Planea llevarlo, junto con un micrófono, a una biblioteca local de Cheyenne y brindarles a los votantes la oportunidad de hacerle preguntas directamente a través de su función de voz a texto.

OpenAI le dijo a CNN que también tomó medidas contra otro candidato en el Reino Unido que estaba usando sus modelos de IA para ayudar en su campaña al Parlamento. Steve Endacott, presidente de una empresa de inteligencia artificial llamada Neural Voice, responde las preguntas de los votantes a través de AI Steve, un chatbot, en su sitio. Se postula como independiente. Endacott no respondió a una solicitud de comentarios.

Su sitio web ofrecía un chatbot de ChatGPT donde los votantes podían dejar opiniones y ayudar a crear políticas. Si un votante le hacía una pregunta a la herramienta sobre las políticas de AI Steve y no tenía una respuesta, realizaría una búsqueda y crearía una sugerencia de política. (Aunque su sitio web sigue funcionando, la herramienta ya no funciona con ChatGPT).

Aunque los chatbots de IA se están volviendo más inteligentes, algunos expertos dijeron a CNN que la tecnología nunca debería sustituir el juicio humano en la gestión de ninguna parte del gobierno. “Cuando se trata de la IA ahora y de cómo será en el futuro, nunca debería usarse para tomar decisiones automatizadas”, dijo Jen Golbeck, profesora de la Facultad de Ciencias de la Información de la Universidad de Maryland.

“La IA ha sido diseñada para apoyar la toma de decisiones: proporciona algunos datos para ayudar a un ser humano a tomar decisiones, pero no está configurada para tomar decisiones por sí sola”. El surgimiento de candidatos políticos con IA también se produce en medio de crecientes preocupaciones sobre cómo la difusión de información errónea podría afectar las elecciones. A principios de este año, por ejemplo, se volvió viral una grabación falsa de un candidato en Eslovaquia diciendo que había manipulado las elecciones.

Golbeck dijo, sin embargo, que puede haber un lugar para la IA en la política cuando se trata de ayudar con diversas tareas, como responder formularios de los electores o indicar cómo resolver problemas. “Es posible que puedas entrenar un chatbot con todo el conocimiento que se encuentra en una oficina”, dijo.

“Pero la toma de decisiones siempre debe dejarse en manos de los humanos”. David Karpf, profesor asociado de medios y asuntos públicos en la Universidad George Washington, estuvo de acuerdo y señaló que las personas detrás de una candidatura con IA están experimentando “un momento cultural” y no deben ser tomadas en serio.

“Artilugio es la palabra correcta”, dijo Karpf a CNN. “ChatGPT no está calificado para dirigir tu gobierno”. Karpf dijo que no cree que los legisladores necesiten elaborar una legislación formal sobre los chatbots de IA que se postulan para cargos públicos porque “nadie va a votar por un chatbot de IA para gobernar una ciudad”.

Karpf considera que el momento en que se produjeron estos casos también es digno de mención. “Tenemos unas elecciones muy serias por delante y no me importa tomarlo a la ligera”, dijo. “Y eso es lo que es: deberíamos reírnos un minuto y volver al trabajo”. Sin embargo, Miller dijo que espera que la atención en torno a sus acciones inspire a más candidatos a IA en los próximos meses. “Creo que esto puede expandirse más allá del alcalde y el Parlamento, y llegar a todo el mundo”, afirmó.

Via: cnn