/ martes 2 de mayo de 2023

Creador de IA abandona Google para alertar de sus riesgos

Geoffrey Hinton, quien fuera uno de los creadores de esta tecnología, ahora advierte sobre los peligros que la IA puede traer para los humanos

El desarrollo de chatbots, como ChatGPT, o generadores de imágenes como Midjourney, han sido criticados duramente por científicos en los últimos meses debido a los problemas que puede generar, muestra de ello es el contenido que puede engañar a las personas por el realismo que aparentan, como las imágenes del Papa Francisco II.

Curiosamente, algunos de estos críticos participaron en el desarrollo de la Inteligencia Artificial y recientemente se han mostrado preocupados por las consecuencias negativas que el desarrollo de este tipo de tecnología podría acarrear en nuestra vida cotidiana, tal es el caso de Geoffrey Hinton, también llamado “pionero de la IA” y quien colaboró para poner los cimientos de las actuales IAs.

Te recomendamos: Elon Musk quiere desarrollar TruthGPT, su propia IA que "busque la verdad"

Geoffrey Hinton es un científico estadounidense que siempre se opuso a utilizar recursos del estado para financiar las investigaciones, es por ello que en 1980, cuando fue profesor de Ciencias de la Computación en la Universidad Carnegie Mellon, decidió renunciar para que la Inteligencia Artificial no fuera utilizada en el campo de batalla, lo que él llamó “soldados robots”, y después decidió trasladarse a Canadá.

En 2012, Hinton ya radicando en Toronto, junto a dos de sus estudiantes, Ilya Sutskever y Alex Krishevsk, construyeron una “red neuronal” que era capaz de analizar miles de imágenes, e identificar objetos comunes, como perros, y automóviles.

El proyecto les interesó a los ejecutivos de Google que decidieron comprar la empresa de Hinton y sus alumnos por 44 millones de dólares. Sorprende que en muy poco tiempo, dicha red neuronal impulsó el desarrollo de tecnologías más sofisticadas como ChatGPT y Google Bard.

Uno de sus alumnos, Ilya Sutskever se convirtió en jefe científico de OpenAI, mientras que en el 2018, Hinton y otros dos colaboradores recibieron el Premio Turing , el llamado "el Premio Nobel de la computación" por su trabajo en redes neuronales, relata el cientifico en entrevista con The New York Times.


El principio del fin

En un comienzo, Hinton creyó que la tecnología que estaban desarrollando era una forma de lenguaje inferior al que genera el humano, pero superior en la cantidad de datos que puede manejar, lo cual sonaba muy prometedor.

Sin embargo, su opinión cambió el año pasado cuando Google y OpenAI crearon sistemas utilizando cantidades de datos mucho mayores, lo cual preocupó a Hinton quien consideró que podría “eclipsar la mente humana”, en este sentido, el científico presentó su renuncia a Google al considerar que la carrera por el desarrollo de las IA’s plantea varios dilemas de orden ético y moral.

"Mire cómo era hace cinco años y cómo es ahora. Tome la diferencia y continúe hacia adelante. Eso asusta", señaló Hinton.

Además, expresó su preocupación por el uso que se le puede dar a la Inteligencia Artificial ya que “se puede volver peligroso”, tanto para los trabajos -en los que una persona podrá ser reemplazada por un ordenador-, como para el contenido que consumen las masas y que ya no podrán discernir de lo que es falso y sobre lo que es real.


La persona promedio ya no podrá saber qué es verdad

Geoffrey Hinton


"La idea de que estas cosas en realidad podrían volverse más inteligentes que las personas, algunas personas lo creían […] Pero la mayoría de la gente pensaba que estaba muy lejos. Yo pensaba que estaba muy lejos. Pensaba que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso", añadió.

Hinton considera que tanto Google como Microsoft, que son las empresas que se encuentran impulsando el desarrollo de las IAs, deberían frenar los trabajos hasta entender con calidad si es posible controlar este tipo de tecnología, la cual tiende a fallar y a operar por su cuenta.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

“No creo que deban escalar esto más hasta que hayan entendido si pueden controlarlo”, sentenció.



TE RECOMENDAMOS EL PODCAST⬇️

Disponible en: Acast, Spotify, Apple Podcasts, Google Podcast, Deezer y Amazon Music

El desarrollo de chatbots, como ChatGPT, o generadores de imágenes como Midjourney, han sido criticados duramente por científicos en los últimos meses debido a los problemas que puede generar, muestra de ello es el contenido que puede engañar a las personas por el realismo que aparentan, como las imágenes del Papa Francisco II.

Curiosamente, algunos de estos críticos participaron en el desarrollo de la Inteligencia Artificial y recientemente se han mostrado preocupados por las consecuencias negativas que el desarrollo de este tipo de tecnología podría acarrear en nuestra vida cotidiana, tal es el caso de Geoffrey Hinton, también llamado “pionero de la IA” y quien colaboró para poner los cimientos de las actuales IAs.

Te recomendamos: Elon Musk quiere desarrollar TruthGPT, su propia IA que "busque la verdad"

Geoffrey Hinton es un científico estadounidense que siempre se opuso a utilizar recursos del estado para financiar las investigaciones, es por ello que en 1980, cuando fue profesor de Ciencias de la Computación en la Universidad Carnegie Mellon, decidió renunciar para que la Inteligencia Artificial no fuera utilizada en el campo de batalla, lo que él llamó “soldados robots”, y después decidió trasladarse a Canadá.

En 2012, Hinton ya radicando en Toronto, junto a dos de sus estudiantes, Ilya Sutskever y Alex Krishevsk, construyeron una “red neuronal” que era capaz de analizar miles de imágenes, e identificar objetos comunes, como perros, y automóviles.

El proyecto les interesó a los ejecutivos de Google que decidieron comprar la empresa de Hinton y sus alumnos por 44 millones de dólares. Sorprende que en muy poco tiempo, dicha red neuronal impulsó el desarrollo de tecnologías más sofisticadas como ChatGPT y Google Bard.

Uno de sus alumnos, Ilya Sutskever se convirtió en jefe científico de OpenAI, mientras que en el 2018, Hinton y otros dos colaboradores recibieron el Premio Turing , el llamado "el Premio Nobel de la computación" por su trabajo en redes neuronales, relata el cientifico en entrevista con The New York Times.


El principio del fin

En un comienzo, Hinton creyó que la tecnología que estaban desarrollando era una forma de lenguaje inferior al que genera el humano, pero superior en la cantidad de datos que puede manejar, lo cual sonaba muy prometedor.

Sin embargo, su opinión cambió el año pasado cuando Google y OpenAI crearon sistemas utilizando cantidades de datos mucho mayores, lo cual preocupó a Hinton quien consideró que podría “eclipsar la mente humana”, en este sentido, el científico presentó su renuncia a Google al considerar que la carrera por el desarrollo de las IA’s plantea varios dilemas de orden ético y moral.

"Mire cómo era hace cinco años y cómo es ahora. Tome la diferencia y continúe hacia adelante. Eso asusta", señaló Hinton.

Además, expresó su preocupación por el uso que se le puede dar a la Inteligencia Artificial ya que “se puede volver peligroso”, tanto para los trabajos -en los que una persona podrá ser reemplazada por un ordenador-, como para el contenido que consumen las masas y que ya no podrán discernir de lo que es falso y sobre lo que es real.


La persona promedio ya no podrá saber qué es verdad

Geoffrey Hinton


"La idea de que estas cosas en realidad podrían volverse más inteligentes que las personas, algunas personas lo creían […] Pero la mayoría de la gente pensaba que estaba muy lejos. Yo pensaba que estaba muy lejos. Pensaba que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso", añadió.

Hinton considera que tanto Google como Microsoft, que son las empresas que se encuentran impulsando el desarrollo de las IAs, deberían frenar los trabajos hasta entender con calidad si es posible controlar este tipo de tecnología, la cual tiende a fallar y a operar por su cuenta.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

“No creo que deban escalar esto más hasta que hayan entendido si pueden controlarlo”, sentenció.



TE RECOMENDAMOS EL PODCAST⬇️

Disponible en: Acast, Spotify, Apple Podcasts, Google Podcast, Deezer y Amazon Music

Elecciones 2024

Acusaciones de corrupción protagonizan segundo debate CDMX

Taboada relacionó a Brugada con el “Señor de las Ligas” y la morenista insiste en ligarlo con el Cartel Inmobiliario

Finanzas

Coparmex pide no tocar ahorro de vivienda de cuentas inactivas

El Pleno de la Cámara de Diputados discutirá este lunes el dictamen que propone crear un Fondo de Pensiones para el Bienestar, el cual piensa financiarse con los recursos de las cuentas inactivas de personas de 70 años o más que no hayan retirado sus recursos en el Infonavit y de la Afore

CDMX

CDMX sufre inundaciones en las calles y el Metro por las lluvias

Varios puntos de la CDMX se vieron severamente afectados por la lluvia de este domingo

Elecciones 2024

Capturan a presunto asesino de candidato del PAN a la alcaldía de Ciudad Mante, Tamaulipas

Será puesto a disposición de la autoridad jurisdiccional correspondiente que determinará su situación jurídica

CDMX

Balacera afuera del Hospital Balbuena deja al menos un muerto

Presuntamente una mujer resultó lesionada durante el ataque; los responsables se dieron a la fuga

Sociedad

Más de 50 heridos por volcadura de autobús en Nuevo León

Al parecer, el chofer del autobús perdió el control al dormitar y la unidad terminó volcada