EE.UU, 17 sep.- OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, indicó OpenAI a la AFP este martes, en medio de crecientes llamados a mejorar los controles de esta tecnología.
Las preocupaciones sobre la seguridad de la IA se han intensificado en las últimas semanas.
Dos trabajadores renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria.
Los grandes actores de la IA llevan meses pidiendo al gobierno estadounidense para que regule el sector y supervise la seguridad de este.
La idea de una entidad de supervisión fue propuesta en julio por Demis Hassabis, cofundador y director general de Google DeepMind.
Hassabis pidió a Estados Unidos que creara una organización que probara los sistemas de IA más potentes antes de que se pusieran a disposición del público.
«La financiación tendría que ser sustancial y probablemente provenir en su mayor parte de la industria», escribió Hassabis.
Este martes, Sam Altman, director ejecutivo de OpenAI, creador del ChatGPT, expresó su apoyo a la colaboración en todo el sector y reconoció el temor público de que la competencia entre empresas y países pueda dejar la seguridad en un segundo plano.
«Me parece estupendo que nuestro sector diga que queremos unirnos, queremos poder coordinarnos y asegurarnos de que tenemos tiempo suficiente para hacer esto de forma segura», afirmó Altman en una conferencia organizada por Salesforce en San Francisco.
El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.
Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe de Anthropic,desarrolladora del chatbot Claude: el presidente estadounidense, Donald Trump, sugirió limitar el sector.
«Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA», escribió Trump en su plataforma Truth Social el lunes.
El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome la delantera.
Las empresas de IA están «jugando con nuestras vidas», advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.
El lunes, el ex investigador de Google DeepMind, Bilal Chughtai, se hizo eco de las preocupaciones planteadas por Coxon y otros.
«Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizás se nos esté acabando el tiempo para evitar ese desenlace», declaró en redes sociales.
La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia.
Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.
Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deben someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.
«No creo que un pequeño grupo de empresas de IA deba definir las reglas para todo el mundo», dijo al canal CNBC Aidan Gomez, director de la empresa canadiense Cohere, que desarrolla su propia IA.
«Hay gran cantidad de partes interesadas que deben ser consultadas», añadió.
Este nuevo organismo también podría impulsar una ralentización coordinada del desarrollo de la IA, en caso de que la compresión de los riesgos no vaya al ritmo del progreso de la tecnología.
«Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria», dijo este martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.
Varios observadores, en particular del lado republicano, han acusado a los grandes nombres de la IA de querer definir su propia regulación y ponerse de acuerdo para proteger especialmente su ventaja competitiva, en detrimento de los competidores y de los consumidores.
Davis Sacks, influyente consejero de Trump, ha agitado el fantasma de un cartel de la IA. (Texto y Foto: Cubasí)
