El CEO de DeepMind de Google tiene dos preocupaciones en cuanto a la IA

En lugar de preocuparse por que la IA reemplace puestos de trabajo, le preocupa que la tecnología caiga en las manos equivocadas y que haya una falta de medidas de protección para mantener bajo control a los sofisticados modelos de IA autónomos.

“Un actor malintencionado podría reutilizar esas mismas tecnologías con fines perjudiciales”, dijo. “Así que una de las cuestiones importantes es… ¿cómo restringir el acceso a estos sistemas, sistemas poderosos, a los malhechores… pero permitir que los buenos hagan muchísimas cosas asombrosas con ellos?”.

Un informe encargado por el Departamento de Estado de EE. UU. el año pasado concluyó que la IA podría representar riesgos “catastróficos” para la seguridad nacional, según informó CNN.

Hassabis no es el primero en expresar estas preocupaciones. Pero sus comentarios subrayan aún más la promesa de la IA y la alarma que genera a medida que la tecnología mejora en la gestión de tareas complejas como la escritura de código y la generación de videoclips.

Si bien la IA se ha considerado uno de los mayores avances tecnológicos desde internet, también ofrece a los estafadores y otros actores maliciosos más herramientas que nunca. Y avanza rápidamente sin mucha regulación, mientras Estados Unidos y China compiten por establecer su dominio en este campo.

En febrero, Google eliminó un texto de su sitio web sobre política ética de IA, comprometiéndose a no utilizar IA para armas y vigilancia.

Una vista general de las oficinas de Google DeepMind después del anuncio de que el fundador y director ejecutivo, Demis Hassabis, y el científico investigador senior, John M. Jumper, recibieron el Premio Nobel de Química 2024 el 9 de octubre de 2024 en Londres, Inglaterra.

Hassabis cree que debería haber un acuerdo internacional sobre los fundamentos de cómo debe utilizarse la IA y cómo garantizar que la tecnología solo se use “para los buenos casos de uso”. “Obviamente, la situación geopolítica actual es difícil”, dijo. “Pero, bueno, espero que a medida que las cosas mejoren y la IA se vuelva más sofisticada, el mundo tenga más claro que esto es necesario”.

“La IA está empezando a superar a los humanos en casi todas las tareas intelectuales, y vamos a lidiar con ello colectivamente, como sociedad”, declaró a CNN el director ejecutivo de Anthropic, Dario Amodei, justo después de informar a Axios que la IA podría eliminar puestos de trabajo de nivel básico. En abril, el director ejecutivo de Meta, Mark Zuckerberg, afirmó que espera que la IA escriba la mitad del código de la empresa para 2026.

Sin embargo, un futuro centrado en la IA está más cerca de la promesa que de la realidad. La IA aún es propensa a deficiencias como sesgos y alucinaciones, que han provocado varios contratiempos de gran repercusión para las empresas que utilizan esta tecnología.

Si bien Hassabis afirma que la IA transformará la fuerza laboral, no cree que la IA vuelva obsoletos los empleos. Al igual que otros profesionales de la IA, cree que la tecnología podría generar nuevos tipos de empleos y aumentar la productividad.

Comparó la IA con el auge de otros cambios tecnológicos, como internet. “Habrá muchos cambios”, dijo. “Normalmente, surgen nuevos empleos, incluso mejores, que reemplazan algunos de los que se reemplazan. Veremos si eso sucede esta vez”.

Via: cnn