OpenAI y el Consejo de Sabios
Durante la segunda mitad del mes de noviembre y los primeros días de diciembre de 2023, una de las empresas tecnológicas más importantes del mundo, OpenAI, creadora de la tecnología más relevante de los últimos años, la inteligencia artificial conocida como ChatGPT, estuvo (y está) en el centro de la escena y de la polémica por repentinos cambios en su estructura jerárquica y de control, y por la vuelta atrás posterior en la decisión de apartar de la compañía a su CEO y cofundador, Sam Altman. ¿De qué se trataron esos cambios y qué se puede deducir que hay detrás de esto? Intentemos desarrollarlo.
Por Walter Alini para Medium
La historia oficial
El blog de OpenAI tiene solamente dos entradas para contarnos una historia que no parece tan simple y que intentaremos explorar.
El 17 de noviembre, anuncia que Mira Murati, CTO, pasa a ser CEO interina mientras el CEO hasta ese momento, Sam Altman, deja la compañía y Greg Brockman deja de ser el presidente y de integrar la Junta de Directores (“la junta”).
La junta concluyó que Altman “no fue consistentemente sincero en sus comunicaciones con la junta, lo que obstaculizó su capacidad para ejercer sus responsabilidades” y que “ya no confía en su capacidad para seguir liderando OpenAI”.
En el mismo anuncio, se listan quiénes eran los integrantes de esta junta: Ilya Sutskever (científico jefe de OpenAI), Adam D’Angelo (CEO de Quora), Tasha McCauley (fundadora de Fellow Robots) y Helen Toner (del Centro Georgetown para Seguridad y Tecnologías Emergentes).
El 29 de noviembre, anuncian que Sam Altman vuelve como CEO, Greg Brockman como presidente, Mira Murati como CTO y que empieza una nueva Junta de Directores presidida por Bret Taylor (CEO de SalesForce) y con Larry Summers (economista y exsecretario del Tesoro de los Estados Unidos) y Adam D’Angelo.
Altman dice que “está muy agradecido por el trabajo de cada uno en esta situación sin precedentes y de poca claridad”. También que ama y respeta a Ilya Sutskever, que ya no será parte de la Junta, y también agradece a los que quedan en la junta (Adam D’Angelo), a los que no (Tasha McCauley y Helen Toner), a Emmett Shear (cofundador de Justin.tv y exdirector de Twitch), Mira Murati y un montón de gracias a mucha gente. Y después habla del futuro de la compañía.
Por su parte, Bret Taylor, como nuevo presidente de la junta, quiere expresar su gratitud con la empresa y sus empleados, y dice que está encantado de que Sam Altman, Mira Murati y Greg Brockman estén juntos de nuevo. Y después habla del futuro de la junta: Microsoft será un observador sin derecho a voto y el resto de la estructura y sus integrantes se irá resolviendo en el futuro.
Si, como a mí, se te arma un poco de galleta con tantos actores, no hay tanto: es el despido de dos de los cofundadores, incluido el CEO, y su posterior reincorporación y cambio en la estructura de control y decisión de una de las empresas más importantes de la actualidad en términos de tecnología (y, más específicamente, de inteligencia artificial). Intentaremos desarmar un poco esta galleta.
¿Qué es OpenAI?
Es importante entender qué es OpenAI, para qué se creó y cuáles fueron los cambios en su corta historia, para intentar anticipar los actores involucrados, sus intereses y los potenciales conflictos del manejo de poder.
OpenAI fue fundada como organización sin fines de lucro en 2015 por un listado de nombres del empresariado tecnológico norteamericano, entre los que se encuentran Sam Altman, Elon Musk, Ilya Sutskever y Greg Brockman, entre varios otros. Altman y Musk, junto a otras personas (Peter Thiel, Jessica Livingston, Reid Hoffman) y empresas (Amazon Web Services, Infosys, YC Research), aportaron la friolera de 1.000 millones de dólares para la compañía como donación. El propósito de la donación fue el de “investigar y desarrollar sobre inteligencia artificial y asegurar que la AGI beneficie a toda la humanidad”. AGI es inteligencia general artificial, también llamada inteligencia artificial fuerte, y es aquella que puede superar la inteligencia humana promedio y, por lo tanto, reemplazar al ser humano. Luego, OpenAI tiene un motivo noble: ser un importante jugador en la investigación de esta ciencia y, sobre todo, partícipe del control que tendremos sobre ella para el beneficio humano.
Es un momento clave de la inteligencia Artificial como industria, porque las grandes empresas del sector están muy interesadas en conducir sus operaciones a la investigación, inversión y desarrollo. En enero de 2014, Google adquiere DeepMind, una empresa de IA, por alrededor de 500 millones de dólares. En 2015, Meta (Facebook, WhatsApp, Instagram) funda Meta AI, un laboratorio de inteligencia artificial. Microsoft también comienza a invertir fuerte a través de su laboratorio Microsoft Research, que un poco más tarde mostraría Tay, su bot pasado de racismo y xenofobia.
A principios del año 2018, Elon Musk abandona la Junta de Directores de OpenAI, posiblemente por alguna puja de poder en términos del control de la organización, pero oficialmente por potenciales “conflictos de intereses con Tesla”.
En 2019, OpenAI anuncia la creación de OpenAI LP, una rama de la organización con un modelo de ganancias limitadas, gobernada por la misma empresa. Es decir, si bien limita el retorno de la inversión a 100 veces (y anticipan reducir ese número), la cosa ya deja de ser por el amor a la ciencia (que nunca lo fue). Esto es algo razonable: para hacer inteligencia artificial hace falta plata. Mucha plata. Sobre todo en infraestructura (en poder de computación, que se traduce en gigantes centros de cómputo funcionando sin parar para operar la gigantesca cantidad de datos que este tipo de tecnologías requiere procesar).
Entre los inversores de esta nueva rama de OpenAI, se incorporó Microsoft, primero con un deal de 1.000 millones de dólares (en 2019) y posteriores renovaciones de convenio en 2021 y 2023. El convenio incluye el poder de cómputo del gigante de la tecnología, en conjunto con el aporte de investigadores y un uso aparentemente extensivo de los productos de OpenAI en las plataformas, productos y servicios de Microsoft.
Entre los logros de OpenAI estos años, tenemos al conocido ChatGPT (a partir de su familia de modelos GTP), pero también a Dall-E (que genera imágenes realistas a partir de descripciones en lenguaje natural u otras imágenes), Whisper (transcripción de audio a texto), OpenAI Codex (asistente para la generación de código) y herramientas específicas de desarrollo y entrenamiento en OpenAI Platform, como OpenAI API y OpenAI Gym, entre otros.
¿Qué sabemos de lo que pasó?
Greg Brockman, presidente, expresidente y actual presidente, dio su versión en Twitter: dijo que el jueves 16 de noviembre a la noche, Ilya Sutskever le pide una reunión a Sam Altman por Google Meet (sí, una herramienta de Google en una empresa con partnership con Microsoft, las cuentas parodias trollearon un poco esto) para el día siguiente, donde toda la Junta de Directores (salvo él mismo) le anuncian su despido. Más tarde, a él mismo lo convocan a una reunión donde le comunican que está excluido de la junta, pero que mantiene su trabajo porque su rol es vital para la compañía.
La tarde del 17 de noviembre, OpenAI celebró una reunión general para aclarar algunos de los puntos sobre el despido de Sam Altman y desmentir varios rumores que habían surgido tras la noticia. Uno de ellos, según revela el New York Times, era que el despido tenía algo que ver con una posible “adquisición hostil”, algo que la junta negó en la reunión. Reiteraron que la decisión “era necesaria para proteger la misión de OpenAI de hacer que la inteligencia artificial beneficie a toda la humanidad”.
Microsoft publica que su intención es seguir colaborando con OpenAI a pesar de estos cambios.
A la noche, Greg Brockman anuncia su renuncia a la empresa ante el despido de Sam Altman.
El COO Brad Lightcap dice que “esta decisión es una sorpresa para la compañía”, pero que están intentando comprender la decisión y sus consecuencias, y que seguirán con la misión de la compañía.
El 20 de noviembre, Ilya Sutskever publica que está arrepentido de la decisión que tomaron y que está dispuesto a trabajar para volver a reunir al equipo. Sutskever es señalado como el principal impulsor de la decisión de despido de Altman. El mismo día que Microsoft, a través de su CEO Satya Nadella, anuncia que contrata a Altman y Brockman (entre otras salidas de OpenAI) para continuar con la investigación en IA.
Ese mismo día, la gran mayoría de los empleados de OpenAI, entre ellos, el mismísimo Ilya Sutskever, firman una carta en donde comunican que renunciarán a la compañía (y también que posiblemente se vayan a Microsoft) en caso de que no se vuelva atrás con la decisión y pidiendo la renuncia de todos los integrantes de la Junta de Directores. Los empleados inundan X/Twitter con el mismo tweet: “OpenAI is nothing without its people” (“OpenAI no es nada sin su gente”).
El 21 de noviembre, se publican las primeras noticias que dicen que OpenAI está conversando con Altman para que regrese al cargo, lo cual es confirmado por la empresa el día 22 de noviembre y que hacen oficial el día 29 de noviembre, como hemos visto.
¿Qué está pasando?
Ni idea, pero vamos a tirar algunas piedras escondiendo la mano.
En términos tecnológicos, una hipótesis puede ser que el nivel de desarrollo de las tecnologías de OpenAI esté más adelantado que lo que suponemos y que, en tal caso, empiece a ser peligroso para la humanidad que estas herramientas sean liberadas, sobre todo con un partner como Microsoft cerca. Esto es que haya llegado el momento en donde la empresa tal como fuera creada (sin ánimos de lucro) y su subsidiaria con ganancias limitadas estén en un claro conflicto de intereses en términos de su funcionamiento: o bien que sea necesario apartar a los inversores para cumplir con la misión de la empresa, o bien que sea necesaria alguna otra relación con ellos para evitar que los potenciales beneficios por el uso de las tecnologías (actuales o próximas a ser desarrolladas) requiera una transformación o rectificación. Quizá para los niveles de avances en los que estén estas herramientas ya no sea necesaria más inversión, porque tal inversión implicaría avances por arriba de la potencialidad de negocios admitida.
Otra especulación puede ser que la capacidad de la Junta de Directores para gobernar a la empresa no esté alineada con su misión. O viceversa, que la capacidad de Altman para llevar adelante los proyectos de la organización sea peligrosa para las decisiones que tiene que tomar la Junta de Directores. Si es el caso, significa que Altman está en una posición de poder en términos de los intereses que lo motivan, para hacer de OpenAI una empresa más acorde a sus expectativas (y la de todos los empleados) que a las expectativas de sus organismos de control. Si esto es una buena o mala noticia para la humanidad, lo iremos conociendo con el correr del tiempo.
Una tercera hipótesis es que OpenAI haya llegado a un límite en términos de avance o de crecimiento que solamente una crisis como la ocurrida lo pueda salvar. Es posible que los recursos con los que cuente la organización ya no sean suficientes para llevar adelante sus planes. La incorporación de Larry Summers a la Junta de Directores, en este sentido, podría ser una explicación coherente. Economista jefe del Banco Mundial, secretario de Estado del Tesoro de los Estados Unidos (presidencia de Bill Clinton), economista asesor de Obama y una trayectoria de misoginia y toxicidad que solo podría ser tolerable con intereses y contactos superiores. Estados Unidos suele restringir a las empresas que requieren de grandes financiaciones externas, para proteger a la industria local, y el desarrollo de hardware (chips) alrededor de la inteligencia artificial (CPU, GPU, TPU y NPU) podría requerir mirar hacia otros continentes para hacerse realidad. Quizá OpenAI había llegado a su límite en el contexto y las condiciones actuales, y necesitaba un nuevo contexto o nuevas condiciones.
¿Qué sigue?
Eso, ¿qué sigue? Quién lo sabe, la Ciencia de la Computación es una rama muy nueva de la ciencia. La inteligencia artificial es uno de sus hijos más pródigos, pero más joven aún. Como todo joven, está en etapa de rebeldía y de desarrollo, no le hace caso a nadie y quiere llevarse el mundo por delante.
Fue hace menos de 9 meses, este mismo año, que muchos científicos, personalidades de la tecnología y hasta el propio Elon Musk firmaron una “carta abierta” para pedir que se pausen los experimentos y las investigaciones en inteligencia artificial por al menos 6 meses, advirtiendo sobre los peligros que estas tecnologías tienen la capacidad de crear.
Hoy es el día 1 del futuro, al igual que ayer. Así hemos descubierto que funcionamos como especie. Solo resta acompañar al presente lo más cerca que podamos para escribir la mejor historia que podamos.
*Por Walter Alini para Medium / Imagen de portada: A/D.
