/ sábado 25 de noviembre de 2023

En OpenIA dejan atrás la seguridad por la comercialización

Tras el regreso de Sam Altman a la empresa creadora del ChatGPT, analistas dicen que se priorizó la innovación sobre la seguridad de la IA

El despido y pronto retorno de Sam Altman como CEO de OpenIA, startup responsable de la creación y desarrollo de ChatGPT, podría marcar el comienzo de una nueva era para el desarrollo de la Inteligencia Artificial (IA), donde se apostará más por la comercialización que la seguridad.

“Con el regreso de Sam Altman podemos decir que la innovación, lanzamiento de productos y monetización prevalecerán sobre las consideraciones de seguridad en el futuro” explicó Luca Menozzi, analista de investigación de Next Generation de Julius Baer.

La pelea interna en OpenAI se relacionó con la dirección estratégica que la startup tenía que tomar con los futuros desarrollos tecnológicos: apostar por el desarrollo de nuevos productos o desacelerar el desarrollo y centrarse en la seguridad. Y parece ser que ganó el desarrollo, dijo el especialista.

“Estoy deseando volver a OpenAI”, dijo Altman entre varias publicaciones que hizo sobre su salida de la firma en la plataforma de redes sociales X el martes por la noche.

Para Menozzi, la relación entre Microsoft y OpenAI, después del retorno de Altman y con la mayoría del consejo de administración presentando sus renuncias, se fortalecerá, pero sí creará un precedente para las inversiones de grandes empresas en startups de IA.

“Probablemente, Microsoft tendrá alguna representación en el consejo de administración para evitar malas sorpresas.

La cooperación entre Microsoft y OpenAI continuará. Hacia adelante, creemos que las empresas pensarán dos veces antes de llevar a cabo estas adquisiciones y se concentrarán más en los términos de sus acuerdos”, dijo Menozzi.

Pese al caos, la cooperación entre Microsoft y OpenAI continuará, con Microsoft dependiendo de OpenAI en términos de modelos de Inteligencia Artificial, y OpenAI contará con la infraestructura de Microsoft para desarrollar esos modelos.

“Creemos que Microsoft hubiera querido adoptar a muchos empleados de OpenAI, internalizar la investigación sobre IA y tener influencia en la comercialización de productos. Esto podría haber disminuido la velocidad de la innovación, pero hubiera permitido mayor control. Sin embargo, ya no es el caso”

DESCUBRE SUPERINTELIGENCIA

Antes del regreso de Altman como CEO de OpenAI, varios investigadores enviaron a la junta directiva una carta advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad.

De acuerdo con Reuters, una carta y el algoritmo de IA no reportados anteriormente fueron un catalizador que provocó que la junta expulsara a Altman. Según una de las fuentes, la ejecutiva de larga data Mira Murati dijo a los empleados el miércoles que una carta sobre el avance de la IA llamada Q* (pronunciado Q-Star), precipitó las acciones de la junta.

El fabricante de ChatGPT había logrado avances en Q, lo que algunos creen internamente podría ser un gran avance en la búsqueda de superinteligencia de la startup, también conocida como inteligencia artificial general (AGI), lo que OpenAI define como sistemas de IA que son más inteligentes que los humanos.

Cabe destacar que OpenAI, a diferencia de muchas empresas, está supervisada por una junta matriz sin fines de lucro diseñada para garantizar que se dé prioridad a la seguridad de la IA por encima del crecimiento. Sin embargo, la nueva reorganización favorecerá a Altman y Microsoft para el desarrollo de nuevas herramientas de IA.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Bret Taylor, excodirector ejecutivo de Salesforce, Larry Summers, exsecretario del Tesoro de Estados Unidos, y Adam D'Angelo, director ejecutivo y actual director de Quora, serán parte de la junta directiva de OpenAI.

Taylor, un programador informático y empresario estadounidense de 43 años, presidirá la junta, mientras que Summers, un destacado economista de 68 años, también miembro de las juntas directivas de Block Inc y Skillsoft Corp, aportará su experiencia. D'Angelo, el empresario de Internet de 39 años y fundador de Quora, completará el grupo que contribuirá al nuevo enfoque de desarrollo de herramientas de IA de OpenAI.

El despido y pronto retorno de Sam Altman como CEO de OpenIA, startup responsable de la creación y desarrollo de ChatGPT, podría marcar el comienzo de una nueva era para el desarrollo de la Inteligencia Artificial (IA), donde se apostará más por la comercialización que la seguridad.

“Con el regreso de Sam Altman podemos decir que la innovación, lanzamiento de productos y monetización prevalecerán sobre las consideraciones de seguridad en el futuro” explicó Luca Menozzi, analista de investigación de Next Generation de Julius Baer.

La pelea interna en OpenAI se relacionó con la dirección estratégica que la startup tenía que tomar con los futuros desarrollos tecnológicos: apostar por el desarrollo de nuevos productos o desacelerar el desarrollo y centrarse en la seguridad. Y parece ser que ganó el desarrollo, dijo el especialista.

“Estoy deseando volver a OpenAI”, dijo Altman entre varias publicaciones que hizo sobre su salida de la firma en la plataforma de redes sociales X el martes por la noche.

Para Menozzi, la relación entre Microsoft y OpenAI, después del retorno de Altman y con la mayoría del consejo de administración presentando sus renuncias, se fortalecerá, pero sí creará un precedente para las inversiones de grandes empresas en startups de IA.

“Probablemente, Microsoft tendrá alguna representación en el consejo de administración para evitar malas sorpresas.

La cooperación entre Microsoft y OpenAI continuará. Hacia adelante, creemos que las empresas pensarán dos veces antes de llevar a cabo estas adquisiciones y se concentrarán más en los términos de sus acuerdos”, dijo Menozzi.

Pese al caos, la cooperación entre Microsoft y OpenAI continuará, con Microsoft dependiendo de OpenAI en términos de modelos de Inteligencia Artificial, y OpenAI contará con la infraestructura de Microsoft para desarrollar esos modelos.

“Creemos que Microsoft hubiera querido adoptar a muchos empleados de OpenAI, internalizar la investigación sobre IA y tener influencia en la comercialización de productos. Esto podría haber disminuido la velocidad de la innovación, pero hubiera permitido mayor control. Sin embargo, ya no es el caso”

DESCUBRE SUPERINTELIGENCIA

Antes del regreso de Altman como CEO de OpenAI, varios investigadores enviaron a la junta directiva una carta advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad.

De acuerdo con Reuters, una carta y el algoritmo de IA no reportados anteriormente fueron un catalizador que provocó que la junta expulsara a Altman. Según una de las fuentes, la ejecutiva de larga data Mira Murati dijo a los empleados el miércoles que una carta sobre el avance de la IA llamada Q* (pronunciado Q-Star), precipitó las acciones de la junta.

El fabricante de ChatGPT había logrado avances en Q, lo que algunos creen internamente podría ser un gran avance en la búsqueda de superinteligencia de la startup, también conocida como inteligencia artificial general (AGI), lo que OpenAI define como sistemas de IA que son más inteligentes que los humanos.

Cabe destacar que OpenAI, a diferencia de muchas empresas, está supervisada por una junta matriz sin fines de lucro diseñada para garantizar que se dé prioridad a la seguridad de la IA por encima del crecimiento. Sin embargo, la nueva reorganización favorecerá a Altman y Microsoft para el desarrollo de nuevas herramientas de IA.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Bret Taylor, excodirector ejecutivo de Salesforce, Larry Summers, exsecretario del Tesoro de Estados Unidos, y Adam D'Angelo, director ejecutivo y actual director de Quora, serán parte de la junta directiva de OpenAI.

Taylor, un programador informático y empresario estadounidense de 43 años, presidirá la junta, mientras que Summers, un destacado economista de 68 años, también miembro de las juntas directivas de Block Inc y Skillsoft Corp, aportará su experiencia. D'Angelo, el empresario de Internet de 39 años y fundador de Quora, completará el grupo que contribuirá al nuevo enfoque de desarrollo de herramientas de IA de OpenAI.

Valle de México

Muere estudiante del CCH Naucalpan tras ataque con petardos

Autoridades inician las investigaciones que esclarezcan la muerte de un estudiante al parecer durante una agresión por grupos porriles

Justicia

Identifican a tres víctimas del presunto feminicida de Iztacalco

Las familias de las tres víctimas identificadas del presunto feminicida de Iztacalco ya fueron notificadas de los resultados

Política

Infundadas, las declaraciones de titular de la DEA sobre visas: SRE

Este martes la directora de la DEA, Anne Milgram, sostuvo ante el Congreso de EU que el gobierno de México estaba deteniendo las visas de trabajo para sus agentes

Política

AMLO quiere comisión de 1.5% para el Banco del Bienestar por dispersar programas sociales

De acuerdo con la iniciativa presentada al Congreso, la comisión no se trasladaría a los usuarios, por lo que seguirán retirando sus depósitos de manera gratuita

Finanzas

Coparmex culpa al gobierno de los apagones por impedir la inversión

Coparmex hizo un llamado a la Comisión Reguladora de Energía (CRE) y a la Cenace para permitir la integración de nuevas centrales eléctricas con inversión privada

CDMX

Lluvia con fuertes vientos derriba 5 árboles en la Miguel Hidalgo

Bomberos atienden en distintos puntos de la demarcación afectaciones por la caída de árboles debido a fuertes vientos