Todo parece que la batalla más importante de Inteligencia Artificial se dará entre OpenAI creador de ChatGPT ya muy conocido en todo el mundo y Anthropic, no tan conocido aunque ya tiene inversiones de Google y de Amazon por algo más de 6.000 millones de dólares y es considerado por muchos expertos como la empresa que jugará un papel clave en la seguridad de la inteligencia artificial.
Pero, ¿qué hace diferente y especial a Anthropic y por qué es tan relevante?
Anthropic fue fundado en 2021 por Darío y Daniela Amodei, dos hermanos que trabajaban en OpenAI como VP de investigaciones y VP de seguridad y política respectivamente. Los dos salieron de OpenAI cuando se lanzó ChatGPT 2 argumentando que sus dueños y miembros de la Junta Directiva que controlaban la compañía sólo les interesaba hacer los modelos más poderosos y que no tenían como prioridad la seguridad ni el bien de la humanidad.
Darío y Daniela entonces deciden desarrollar bajo el nombre de Claude, modelos de lenguaje es decir, chatbot y otras herramientas de inteligencia artificial entrenadas para ser útiles, honestas e inofensivas.
Según ellos en OpenAI, el entrenamiento del modelo se basa en darle toda la información disponible, contenido de periódicos, revistas, comentarios en redes sociales, etc., etc., para generar un modelo lo más potente posible, esto puede llegar a ser peligroso porque si es entrenado por ejemplo con comentarios de redes sociales que son racistas la respuesta a una de estas preguntas podría ser racista, además el modelo puede tener alucinaciones o respuestas que crea más allá de su conocimiento.
Anthropic funciona diferente, está entrenado para ser éticamente responsable. Cuando lo crearon usaron asistentes humanos que tenían conversaciones y calificaban las respuestas que obtenían como ofensivas ó inofensivas y así fue aprendiendo el modelo bajo un esquema supervisado. Además, Anthropic creó una Constitución que contiene principios de Derechos Humanos que el modelo debe revisar antes de dar una respuesta que debe cumplir dicha constitución.
Muy interesante, y como se cuestiona Macarena Riva, tiktoker de tecnología, “si me preguntan a mí en manos de quién dejaría la seguridad de mis hijos y de la humanidad? Sería sin duda a Darío y Daniela y no a Sam Altman y Elon Musk”.