El desarrollo de la Inteligencia Artificial General (AGI) ha generado un gran interés y preocupación en los últimos años, con la conversación en torno a los riesgos y consecuencias de su mal uso evolucionando a medida que avanza el campo. En un reciente podcast, François Chollet, ingeniero de software en Google, expresó sus aprehensiones sobre la trayectoria actual de la investigación en AGI, señalando en particular a OpenAI por lo que percibe como una ralentización del progreso en el campo.

Chollet atribuye el cambio lejos de la investigación abierta y la colaboración a la influencia de OpenAI, sugiriendo que el enfoque de la organización en modelos de lenguaje grandes ha desviado la atención y los recursos de explorar otras posibles vías en la investigación de AGI. Esta concentración singular ha resultado en una falta de diversidad en los esfuerzos de investigación, limitando el avance en el desarrollo de AGI.

Este cambio es evidente en el limitado progreso observado en la investigación de AGI, como se destacó en la competición ARC-AGI iniciada por Sholay y Mike Knoop en 2019. A pesar de la participación de 300 equipos en la competición, las puntuaciones de vanguardia solo han mejorado marginalmente, lo que indica un estancamiento en el campo. Este estancamiento subraya la necesidad de un enfoque más amplio en la investigación de AGI que vaya más allá de los confines de los grandes modelos de lenguaje.

Chollet enfatiza la importancia de explorar diversas direcciones de investigación en AGI para facilitar un progreso más rápido y cultivar una comprensión más completa del campo. Si bien OpenAI ha sido fundamental en abogar por la seguridad y el desarrollo responsable en AGI, Chollet sugiere que el enfoque actual de la organización podría estar obstaculizando el progreso general.

OpenAI ha respondido a las críticas reafirmando su compromiso con el desarrollo seguro y beneficioso de AGI, enfatizando la precaución y la colaboración en el proceso. Sin embargo, se han planteado preocupaciones sobre la priorización de consideraciones de seguridad dentro de la organización, especialmente a la luz de los recientes cambios estructurales. El futuro trayecto de OpenAI y su dedicación a la seguridad a largo plazo en el desarrollo de AGI permanecen inciertos a medida que el campo continúa evolucionando.

Fuente