Un grupo de experto en inteligencia artificial junto a Elon Musk han presentado una carta que pide pausar el desarrollo de sistemas de inteligencia artificial mas avanzados que ChatGPT debido a los riesgos potenciales que estos sistemas representan para la sociedad.

Esta petición pide una pausa, de al menos seis meses, en el entrenamiento de sistemas de IA más potentes que GPT-4. Exhorta a todos los laboratorios de IA y expertos independientes que desarrollen protocolos de seguridad compartidos que aseguren que los sistemas sean seguros más allá de toda duda razonable y dice que los desarrolladores de IA deben trabajar con los legisladores para acelerar la implementación de un marco legal solido que permita regular el desarrollo de la IA.

La carta abierta titulada ‘Pause Giant AI Experiments’ fue emitida por Future Of Life Institute, una organización sin fines de lucro que trabaja para reducir los riesgos catastróficos y existenciales globales que enfrenta la humanidad, particularmente el riesgo existencial de la inteligencia artificial avanzada. La carta está firmada por científicos, profesores de IA, y expertos como el ganador del Premio Turing Yoshua Bengio, el profesor de Ciencias de la Computación de Berkeley Stuart Russell, el cofundador de Apple Steve Wozniak, el autor de Homo Sapiens Yuval Noah Harari, el CEO de Stability AI, Emad. Mostacho,  entre otros.

La carta establece que los sistemas de IA con inteligencia humana-competitiva plantean profundos riesgos para la sociedad y la humanidad, y los principales laboratorios de IA también han reconocido este riesgo potencial. Además, muchas instituciones y gobiernos han expresado su preocupación por los problemas éticos y legales creados por la IA avanzada como ChatGPT. Incluso, varias universidades de Nueva York han decidido prohibir que los estudiantes usen ChatGPT para completar sus tareas. Para hacer cumplir esta medida, las universidades han bloqueado el acceso al sitio web de ChatGPT a través de sus servidores.

A principios de este mes, OpenAI, respaldado por Microsoft, presentó la cuarta versión de su programa de IA GPT (Generative Pre-trained Transformer), que ha cautivado a los usuarios al involucrarlos en conversaciones similares a las humanas, componiendo canciones y resumiendo documentos extensos. Sin embargo, recientemente, Europol advirtió sobre la posible explotación de sistemas de IA como ChatGPT para delitos cibernéticos , intentos de phishing y difusión de desinformación. [Fuente]

¿Qué opinas de esta carta presentada por Elon Musk y otros expertos en IA ? ¿Piensas que el desarrollo de la IA representa un  potencial riesgo para la sociedad?