El CEO y cofundador de OpenAI, Sam Altman, lanzó una fuerte advertencia sobre el avance de la inteligencia artificial y sostuvo que la humanidad enfrenta riesgos que podrían modificar de manera profunda el futuro. A través de una serie de publicaciones en X, Altman señaló dos escenarios que considera especialmente peligrosos. El primero es que los seres humanos puedan perder el control sobre sistemas de inteligencia artificial cada vez más capaces. “Podríamos perder el control del futuro ante la IA”, sostuvo, al remarcar que la tecnología debe estar siempre al servicio de las personas.
El empresario afirmó que, para evitar ese escenario, las técnicas de alineación y seguridad de los sistemas deben avanzar al mismo ritmo o incluso por delante de las capacidades de los nuevos modelos de inteligencia artificial.
El segundo riesgo señalado por Altman está relacionado con la concentración de poder. Según explicó, una IA extremadamente poderosa podría quedar en manos de una persona, una empresa o un país y ser utilizada para imponer sus intereses sobre el resto de la sociedad.En ese sentido, advirtió que el mundo podría terminar enfrentando una situación “distópica” si una única organización logra acumular un poder desproporcionado gracias a estas tecnologías.
Por eso, consideró necesario encontrar un equilibrio que permita aprovechar los beneficios de la IA sin permitir una concentración excesiva de poder.
Altman pidió reglas comunes para la inteligencia artificial
El CEO de OpenAI también reclamó que las empresas estadounidenses que desarrollan los modelos más avanzados asuman mayores responsabilidades frente al rápido crecimiento de la tecnología.
Altman respaldó la creación de un marco regulatorio federal que establezca requisitos de seguridad comunes para la denominada inteligencia artificial de frontera, es decir, los modelos que se encuentran en el límite de las capacidades tecnológicas actuales. Además, se mostró favorable a la incorporación de auditores independientes para controlar el cumplimiento de esas normas y garantizar que las compañías actúen de manera responsable.
Sin embargo, remarcó que las empresas no deberían esperar a que se aprueben nuevas leyes para comenzar a implementar mecanismos de seguridad.
Finalmente, Altman consideró que el Gobierno de Estados Unidos tendrá un papel fundamental en la coordinación internacional de las medidas de seguridad relacionadas con la inteligencia artificial, aunque insistió en que las compañías tecnológicas deben comenzar a tomar medidas por cuenta propia.
