La IA, o Inteligencia Artificial, se ha convertido en una de las tecnologías más importantes y de más rápido avance que existen. Su potencial es indudable para el sector empresarial, no obstante, se estima puede provocar la desaparición de hasta 300 millones de empleos en los próximos años. Por este y otros motivos, Elon Musk, Steve Wozniak y miles de expertos firman un documento en forma de carta para regular la IA y su avance.
Este documento fue firmado este pasado 29 de marzo y se llama: «Pausa en los experimentos gigantes de IA: Carta abierta«, disponible en el siguiente enlace, y que se puede firmar.
Carta para regular la IA: ¿Quién la ha firmado?
Dado el potencial de uso indebido y sus imprevisibles consecuencias para la humanidad, un grupo de expertos y líderes empresariales tecnológicos se han unido para firmar una carta abierta en la que piden un acuerdo global para «poner en pausa» los gigantescos experimentos de IA hasta que puedan establecerse normativas y medidas de seguridad.
Entre los firmantes más destacados se encuentran el tuitero jefe o Elon Musk, Yuval Noah Harari y Steve Wozniak, cofundador de Apple junto a Steve Jobs.
Otros personajes que han firmado la carta para regular la IA son los presidentes de empresas como Pinterest, Ripple o Getty Images, entre otros.
Además de estos famosos, el documento ha sido apoyado por casi 5.000 expertos y empresarios, entre los que se incluyen muchos investigadores de IA y empresas tecnológicas que se esfuerzan por desplegar la IA de forma responsable.
Cabe destacar la falta de firmantes por parte de Open AI, la empresa que originó parte de la fiebre de la IA con la llegada de ChatGPT. Curiosamente, el fundador de Open AI, Sam Altman insistió recientemente en la regulación de esta tecnología, pero no ha firmado este documento.
El que sí lo ha hecho es el multimillonario Musk, que cabe recordar fue fundador de OpenAI en sus inicios.
¿Qué piden los firmantes del documento?
Entre las preocupaciones más peligrosas se encuentran las siguientes:
- Perder el control de nuestra civilización.
- La investigación y el desarrollo de la IA deben centrarse en conseguir que los potentes sistemas actuales sean más precisos, seguros, interpretables, transparentes, robustos, alineados, fiables y leales.
- Los sistemas de IA potentes sólo deben desarrollarse cuando estemos seguros de que sus efectos serán positivos y sus riesgos controlables.
- Aplicar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos externos independientes.
Por todo ello, la carta sugiere una pausa en el avance de la IA:
«Pedimos a los gobiernos del mundo que detengan aquí el desarrollo de las capacidades de IA más avanzadas del mundo, y que apoyen el desarrollo de un marco global acordado para el desarrollo seguro, transparente y ético de la IA«.
La carta titulada «Pausa en los experimentos gigantes de IA: Carta abierta» afirma que basarse en los actuales protocolos de seguridad y evaluación de riesgos para valorar el progreso de la IA podría tener consecuencias inesperadas y potencialmente alteradoras del mundo en lo que respecta al desarrollo de estas potentes tecnologías.
Además, sugiere que esto podría llevar a que los humanos perdieran el control sobre la IA, un escenario que podría poner en peligro a toda la especie.
Es importante destacar que los expertos y empresas que han firmado esta carta no desean obstaculizar el desarrollo de la IA.
Eso no quita que crean firmemente que es necesario que exista algún tipo de regulación y orientación para garantizar que se utiliza de forma responsable y ética.
Con este fin, piden una moratoria de al menos seis meses para dar tiempo a que gobiernos, empresas y expertos se reúnan y acuerden un marco global para el avance responsable de la IA.
Firmantes más famosos de la carta:
Algunos de las personas que han dado su permiso para añadir su firma al documento son los siguientes:
- Yoshua Bengio, fundador y director científico de Mila, ganador del Premio Turing y profesor de la Universidad de Montreal.
- Stuart Russell, Berkeley, catedrático de Informática, director del Centro de Sistemas Inteligentes y coautor del libro de texto estándar «Inteligencia Artificial: un Enfoque Moderno».
- Elon Musk, consejero delegado de SpaceX, Tesla y Twitter.
- Steve Wozniak, cofundador de Apple.
- Yuval Noah Harari, autor y profesor de la Universidad Hebrea de Jerusalén.
- Andrew Yang, Partido Forward, Copresidente, Candidato Presidencial 2020, Autor del NYT Bestseller, Embajador Presidencial del Emprendimiento Global.
- Valerie Pisano, Presidenta y Consejera Delegada, MILA.
- Emad Mostaque, Consejero Delegado, Stability AI.
- Connor Leahy, CEO, Conjecture.
- Jaan Tallinn, cofundador de Skype, Centro para el Estudio del Riesgo Existencial, Future of Life Institute.
- Evan Sharp, cofundador de Pinterest.
- Chris Larsen, cofundador de Ripple.
- Craig Peters, CEO, Getty Images.
- John J Hopfield, Universidad de Princeton, profesor emérito, inventor de las redes neuronales asociativas.
- Rachel Bronson, Presidenta, Boletín de los Científicos Atómicos.
La carta abierta sirve como recordatorio a la industria tecnológica de que todavía es necesario hacer una pausa y reflexionar sobre el camino que están tomando con la IA, de modo que estemos tomando todas las precauciones necesarias para proteger a nuestra población mundial de cualquier daño potencial causado por su desarrollo.
NEWS es un portal de noticias a iniciativa de UNIDEMA, Escuela de Formación para estar informado sin perder el tiempo. Si buscas información de calidad sobre economía, geopolítica, negocios y empresas, NEWS Unidema es exactamente lo que necesitas!