Autor: Li Jia, Wall Street CN
Hoy, Anthropic ha hecho de la "seguridad de la IA" su etiqueta central, pero pocas personas saben que la cofundadora y presidenta de la empresa, Daniela Amodei, una vez usó un grupo de peluches con su esposo Holden Karnofsky para discutir temas de gestión.
A estos juguetes se les dieron diferentes personalidades: algunos eran específicamente responsables de "tener menos reuniones y causarse menos problemas a uno mismo", algunos enfatizaban reglas, detalles y ejecución, y otros eran responsables de recordar a los tomadores de decisiones que mantuvieran la compasión.Cuando se enfrentaban a un problema espinoso en el lugar de trabajo, Daniela y su esposo hacían que estos personajes virtuales "expresaran sus opiniones" cada uno, simulando así las elecciones que podrían hacer diferentes tipos de gerentes.
Este episodio bastante personal, incluso algo infantil, ocurrió durante el período en que Daniela todavía trabajaba en OpenAI. Y fue precisamente durante este período que ella y su hermano Dario Amodei también fueron desarrollando gradualmente desacuerdos con la dirección de OpenAI: Daniela tuvo fricciones con múltiples altos ejecutivos en el trabajo, mientras que Dario comenzó a volverse cada vez más cauteloso respecto a la gestión de la empresa y la dirección del desarrollo de la IA avanzada.
En 2020, los hermanos finalmente decidieron dejar OpenAI. Esta escisión, llamada posteriormente "divorcio" por personas cercanas, también se convirtió en el punto de partida para el nacimiento de Anthropic.
The Atlantic citó recientemente el próximo libro del periodista Kevin Roose, "The AGI Chronicles", para revelar esta experiencia poco conocida. En una entrevista de 2023 con Roose, Daniela dijo que este método era "muy útil para analizar diferentes tipos de personalidad".
Desde usar peluches para formar un "comité asesor" en aquel entonces, hasta convertirse ahora en un gigante de la IA con miles de empleados, Anthropic ha pasado de ser una pequeña startup de seguridad de la IA a un actor importante en la industria. Según informes de medios, la valoración potencial de la OPI de la empresa podría acercarse a los 2 billones de dólares.
¿Cómo se convirtió un grupo de peluches en un "comité asesor"?
Este "grupo asesor" informal no era simplemente una broma, sino una forma de pensar que simulaba diferentes estilos de toma de decisiones.
Entre ellos, Jinji era un gato relajado que tendía a reducir la carga de trabajo de Amodei, como saltarse reuniones innecesarias; el oso rosa Maura representaba el estilo completamente opuesto: organizado, exigente y orientado a los detalles; y el panda llamado Beary Bonds estaba configurado para añadir más compasión y generosidad a las discusiones.
Cuando se enfrentaban al mismo problema en el lugar de trabajo, la pareja Amodei hacía que las "personalidades" representadas por diferentes muñecos respondieran por separado.
La función real de este método no estaba en los juguetes, sino en obligar a los tomadores de decisiones a alejarse temporalmente de su propia posición y reexaminar el problema a través de otra personalidad.
En esencia, esto era un experimento mental de bajo costo: sin asesores externos reales, todavía era posible dividir el mismo problema en diferentes caminos de decisión mediante la simulación de diferentes roles.
Y casi nadie dentro de OpenAI conocía este método.
Más allá de los peluches, las divisiones dentro de OpenAI se ampliaban
Al mismo tiempo, la relación entre los hermanos Amodei y OpenAI también estaba cambiando.
Daniela Amodei se unió a OpenAI en 2018, luego pasó a un puesto de gestión en el equipo técnico, y tuvo desacuerdos con múltiples altos ejecutivos, incluidos Greg Brockman y Mira Murati.
Ella y Brockman alguna vez fueron cercanos. Brockman había hablado en su boda de 2017 con Holden Karnofsky, pero después, su relación laboral se deterioró gradualmente.
Dario Amodei, mientras tanto, se centró cada vez más en el liderazgo de OpenAI y la dirección del desarrollo de IA avanzada, y se volvió cada vez más receloso de Sam Altman y Brockman.
Al mismo tiempo, comenzó a organizar privadamente actividades con un grupo de investigadores que querían poner mayor énfasis en los riesgos de los sistemas de IA poderosos. Fuera de la estructura normal de la empresa, estas personas se comunicaban y celebraban reuniones, y algunos colegas llamaban a esta facción "el pequeño círculo de Dario".
Los conflictos internos finalmente alcanzaron una etapa que no se podía evitar.
En 2020, Dario comenzó a reunir un equipo dispuesto a dejar OpenAI y avanzar en la investigación de IA avanzada bajo una filosofía de seguridad diferente. Daniela se convirtió en una de las figuras centrales en esta salida y fue responsable de negociar con OpenAI mientras el equipo se preparaba para irse.
Esta escisión fue llamada después en privado un "divorcio" por quienes estaban al tanto.
Una salida dio a luz a un gigante de la IA
En diciembre de 2020, los hermanos Amodei dejaron formalmente OpenAI y cofundaron Anthropic.
Jack Clark, Sam McCandlish, Tom Brown, Chris Olah y Jared Kaplan también participaron en la fundación de la empresa, y Ben Mann fue reconocido más tarde como otro cofundador.
Anthropic inicialmente era solo una pequeña institución de investigación centrada en la seguridad de la IA. Después, la empresa se expandió gradualmente a miles de empleados y se convirtió en uno de los competidores más importantes de OpenAI.
Daniela Amodei ahora se desempeña como presidenta y presidenta del consejo de Anthropic, con autoridad que abarca la mayor parte de la investigación, ingeniería, producto y operaciones comerciales. Holden Karnofsky, quien alguna vez fue miembro de la junta sin fines de lucro de OpenAI, más tarde también se unió a Anthropic.
Desde usar peluches para simular gerentes, hasta ahora convertirse en un gigante de la IA con miles de empleados, este episodio también fue testigo del viaje de Anthropic desde una startup hasta la madurez.
