Por Deepa Seetharaman
SAN FRANCISCO, 13 nov (Reuters) -OpenAI, desarrollador de ChatGPT, anunció el jueves que invertirá en una empresa emergente dedicada a impedir que agentes malintencionados creen armas biológicas potenciadas por inteligencia artificial.
OpenAI es el principal inversor en una ronda de financiamiento inicial de 15 millones de dólares en Red Queen Bio, que está tratando de asegurarse de que las defensas de la industria de la IA están creciendo al menos tan rápido como los que tratan de explotar modelos para dañar a los seres humanos, dijo el cofundador de la empresa emergente Hannu Rajaniemi.
La inversión forma parte de un esfuerzo más amplio de OpenAI por invertir en empresas emergentes que tratan de contener los riesgos que plantea la IA. El mes pasado, la compañía respaldó a Valthos, una firma de software de bioseguridad con sede en Nueva York. El director de Estrategia de OpenAI, Jason Kwon, dijo que OpenAI consideraría invertir en otros negocios emergentes centrados en problemas similares.
“Queremos aumentar la resiliencia general de todo el ecosistema”, dijo Kwon en una entrevista. “Una de las mejores maneras de abordar la mitigación del riesgo es más tecnología”.
Investigadores y defensores de la seguridad afirman que la tecnología de IA podría acelerar pronto el desarrollo de fármacos o diseñar nuevas vacunas. Pero esas mismas capacidades podrían facilitar a los malos actores el desarrollo de nuevas y potentes armas biológicas.
Red Queen Bio se creó a partir de Helix Nano, una empresa terapéutica de ARNm en fase clínica que ha utilizado más la IA en el diseño de fármacos. Helix Nano también ha colaborado con OpenAI en la creación de pruebas para determinar los biorriesgos de la IA, según Kwon.
El presidente ejecutivo de OpenAI, Sam Altman, y la consejera Nicole Seligman, que habían invertido anteriormente en Helix Nano, recibirán acciones de Red Queen Bio como parte de la transacción. Kwon era inversor indirecto a través de Y Combinator, una incubadora de empresas de Silicon Valley. Su participación está valorada en menos de 2.500 dólares, según OpenAI.
Los ejecutivos no participaron en la aprobación de la inversión de OpenAI en Red Queen Bio, dijo un portavoz de la empresa. El director de cumplimiento de OpenAI y miembros sin conflictos de interés del consejo de OpenAI revisaron y aprobaron la inversión.
Red Queen Bio se basará en modelos de IA, así como en experimentos de laboratorio más tradicionales, para descubrir nuevos riesgos y desarrollar nuevas defensas. El nombre de la empresa procede de una escena del libro “A través del espejo y lo que Alicia encontró allí” de Lewis Carroll.
“Estaba claro que las capacidades biológicas avanzaban más deprisa de lo que habíamos previsto”, explica Rajaniemi. “Sentimos que teníamos que empezar a desarrollar defensas”.
Otros inversores en Red Queen Bio son Cerberus Ventures, Fifty Years y Halcyon Futures.
(Reporte de Deepa Seetharaman en San Francisco; Editado en Español por Ricardo Figueroa)
