/ viernes 21 de julio de 2023

Por qué no debemos confiar en la Inteligencia Artificial

Los dispositivos y servicios que parecen funcionar para nosotros, también funcionan secretamente en nuestra contra al espiarnos y recopilar y vender nuestros datos, entre otras dinámicas del llamado “capitalismo de vigilancia”

Si le preguntas a Alexa, el sistema de Inteligencia Artificial (IA) asistente de voz de Amazon, si Amazon es un monopolio, responderá que no lo sabe. Y no se necesita saber mucho para dar esa respuesta, pero el artefacto guarda silencio sobre las fechorías de su propia empresa matriz.

Cuando Alexa responde de esta manera, es obvio que está anteponiendo los intereses de su desarrollador a los tuyos. Sin embargo, por lo general, no es tan obvio a quién sirve un sistema de IA. Para evitar ser explotados por estos sistemas, las personas deberán aprender a acercarse a la IA con escepticismo. Eso significa construir deliberadamente la entrada que le das y pensar críticamente sobre su salida.

Puede interesarte: IA personalizará más la música para tus oídos

Las nuevas generaciones de modelos de IA, con sus respuestas más sofisticadas y menos rotativas, hacen que sea más difícil saber quién se beneficia cuando habla. Pero todo eso no es nada nuevo. Los resultados de búsqueda de Google y su feed de Facebook están llenos de entradas pagadas. Facebook, TikTok y otros gigantes tecnológicos manipulan sus feeds para maximizar el tiempo que pasas en la plataforma, lo que significa más vistas de anuncios.

Lo que distingue a los sistemas de IA de esos otros servicios de internet es cuán interactivos son y cómo estas interacciones se volverán cada vez más como relaciones. No se necesita mucha extrapolación de las tecnologías actuales para imaginar IA que planificarán viajes para ti, que negociarán en tu nombre o que actuarán como terapeutas y entrenadores de vida.

Es probable que estén contigo las 24 horas del día, los 7 días de la semana, te conozcan íntimamente y puedan anticiparse a tus necesidades. Este tipo de interfaz conversacional para la vasta red de servicios y recursos en la web está dentro de las capacidades de las IA generativas existentes como ChatGPT. Y están en camino de convertirse en asistentes digitales personalizados.

Foto | Pixabay

Como expertos en seguridad y científicos de datos, creemos que las personas que confían en estas IA tendrán que confiar en ellas implícitamente para navegar en la vida diaria. Eso significa que deberán asegurarse de que las IA no estén trabajando en secreto para otra persona. A través de internet, los dispositivos y servicios que parecen funcionar para ti ya funcionan en tu contra en secreto. Los televisores inteligentes te espían. Las aplicaciones de teléfono recopilan y venden tus datos. Muchas aplicaciones y sitios web te manipulan a través de patrones oscuros, elementos de diseño que engañan, coaccionan o engañan deliberadamente a los visitantes de un sitio web. Eso es capitalismo de vigilancia, y la IA se perfila como parte de él.

En la oscuridad

Muy posiblemente, podría ser mucho peor con la IA. Para que ese asistente digital de IA sea verdaderamente útil, tendrá que conocerte realmente. Mejor que tu teléfono te conoce. Mejor que la búsqueda de Google te conoce. Mejor, quizás, que tus amigos cercanos, compañeros íntimos y terapeuta te conozcan.

No hay motivos para confiar en las principales herramientas de inteligencia artificial generativa de la actualidad. Dejando de lado las alucinaciones, los "hechos" inventados que producen GPT y otros grandes modelos de lenguaje. Esperamos que se limpien en gran medida a medida que la tecnología mejore en los próximos años.

Ganar dinero

Muchas de estas IA son creadas y entrenadas a un costo enorme por algunos de los monopolios tecnológicos más grandes. Se les ofrece a las personas para que los usen de forma gratuita o a un costo muy bajo. Estas empresas necesitarán monetizarlas de alguna manera. Y, al igual que con el resto de internet, es probable que de alguna manera incluyan vigilancia y manipulación.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Imagina pedirle a tu chatbot que planifique tus próximas vacaciones. ¿Eligió una aerolínea en particular, una cadena de hoteles o un restaurante porque era lo mejor para ti o porque su creador recibió un soborno de las empresas? Al igual que con los resultados pagados en la búsqueda de Google, los anuncios de suministro de noticias en Facebook y las ubicaciones pagadas en las consultas de Amazon, es probable que estos influencers pagados se vuelvan más subrepticios con el tiempo.

Si le pides a tu chatbot información política, ¿los resultados estarán sesgados por la política de la corporación propietaria del chatbot? ¿O por el candidato que pagó más dinero? ¿O incluso las opiniones de la demografía de las personas cuyos datos se usaron para entrenar el modelo? ¿Tu agente de IA es secretamente un agente doble? En este momento no hay forma de saberlo.


* Académicos de Harvard Kennedy School y Universidad de Harvard.

Si le preguntas a Alexa, el sistema de Inteligencia Artificial (IA) asistente de voz de Amazon, si Amazon es un monopolio, responderá que no lo sabe. Y no se necesita saber mucho para dar esa respuesta, pero el artefacto guarda silencio sobre las fechorías de su propia empresa matriz.

Cuando Alexa responde de esta manera, es obvio que está anteponiendo los intereses de su desarrollador a los tuyos. Sin embargo, por lo general, no es tan obvio a quién sirve un sistema de IA. Para evitar ser explotados por estos sistemas, las personas deberán aprender a acercarse a la IA con escepticismo. Eso significa construir deliberadamente la entrada que le das y pensar críticamente sobre su salida.

Puede interesarte: IA personalizará más la música para tus oídos

Las nuevas generaciones de modelos de IA, con sus respuestas más sofisticadas y menos rotativas, hacen que sea más difícil saber quién se beneficia cuando habla. Pero todo eso no es nada nuevo. Los resultados de búsqueda de Google y su feed de Facebook están llenos de entradas pagadas. Facebook, TikTok y otros gigantes tecnológicos manipulan sus feeds para maximizar el tiempo que pasas en la plataforma, lo que significa más vistas de anuncios.

Lo que distingue a los sistemas de IA de esos otros servicios de internet es cuán interactivos son y cómo estas interacciones se volverán cada vez más como relaciones. No se necesita mucha extrapolación de las tecnologías actuales para imaginar IA que planificarán viajes para ti, que negociarán en tu nombre o que actuarán como terapeutas y entrenadores de vida.

Es probable que estén contigo las 24 horas del día, los 7 días de la semana, te conozcan íntimamente y puedan anticiparse a tus necesidades. Este tipo de interfaz conversacional para la vasta red de servicios y recursos en la web está dentro de las capacidades de las IA generativas existentes como ChatGPT. Y están en camino de convertirse en asistentes digitales personalizados.

Foto | Pixabay

Como expertos en seguridad y científicos de datos, creemos que las personas que confían en estas IA tendrán que confiar en ellas implícitamente para navegar en la vida diaria. Eso significa que deberán asegurarse de que las IA no estén trabajando en secreto para otra persona. A través de internet, los dispositivos y servicios que parecen funcionar para ti ya funcionan en tu contra en secreto. Los televisores inteligentes te espían. Las aplicaciones de teléfono recopilan y venden tus datos. Muchas aplicaciones y sitios web te manipulan a través de patrones oscuros, elementos de diseño que engañan, coaccionan o engañan deliberadamente a los visitantes de un sitio web. Eso es capitalismo de vigilancia, y la IA se perfila como parte de él.

En la oscuridad

Muy posiblemente, podría ser mucho peor con la IA. Para que ese asistente digital de IA sea verdaderamente útil, tendrá que conocerte realmente. Mejor que tu teléfono te conoce. Mejor que la búsqueda de Google te conoce. Mejor, quizás, que tus amigos cercanos, compañeros íntimos y terapeuta te conozcan.

No hay motivos para confiar en las principales herramientas de inteligencia artificial generativa de la actualidad. Dejando de lado las alucinaciones, los "hechos" inventados que producen GPT y otros grandes modelos de lenguaje. Esperamos que se limpien en gran medida a medida que la tecnología mejore en los próximos años.

Ganar dinero

Muchas de estas IA son creadas y entrenadas a un costo enorme por algunos de los monopolios tecnológicos más grandes. Se les ofrece a las personas para que los usen de forma gratuita o a un costo muy bajo. Estas empresas necesitarán monetizarlas de alguna manera. Y, al igual que con el resto de internet, es probable que de alguna manera incluyan vigilancia y manipulación.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Imagina pedirle a tu chatbot que planifique tus próximas vacaciones. ¿Eligió una aerolínea en particular, una cadena de hoteles o un restaurante porque era lo mejor para ti o porque su creador recibió un soborno de las empresas? Al igual que con los resultados pagados en la búsqueda de Google, los anuncios de suministro de noticias en Facebook y las ubicaciones pagadas en las consultas de Amazon, es probable que estos influencers pagados se vuelvan más subrepticios con el tiempo.

Si le pides a tu chatbot información política, ¿los resultados estarán sesgados por la política de la corporación propietaria del chatbot? ¿O por el candidato que pagó más dinero? ¿O incluso las opiniones de la demografía de las personas cuyos datos se usaron para entrenar el modelo? ¿Tu agente de IA es secretamente un agente doble? En este momento no hay forma de saberlo.


* Académicos de Harvard Kennedy School y Universidad de Harvard.

Metrópoli

Valle de México cumple 48 horas bajo contingencia ambiental

La CAMe informó que este viernes se mantendrán condiciones como radiación solar intensa, alta temperatura y viento débil que provocan concentraciones máximas de ozono

Sociedad

Se reunirá Sección 9 de la CNTE con titular de la SEP tras colapsar a CDMX con bloqueos

Al confirmarse dicha reunión, los maestros retiraron el bloqueo que mantuvieron por tres horas en el AICM

Finanzas

Fallece Arganis Díaz Leal, exsecretario de Comunicaciones y Transportes

En el gobierno de AMLO, Díaz Leal estuvo al frente de la dependencia por dos años, pero dejó el cargo por motivos de salud

Sociedad

Desaparece activista ambiental Amparo Salinas Hernández en Veracruz

Familiares piden ayuda para encontrarla; FGE inició investigación

Mundo

Israel recupera el cuerpo de Orión Hernández, el mexicano secuestrado en Gaza

Orión Hernández de 32 años estaba durante el ataque en el festival de música Nova, celebrado al aire libre a pocos kilómetros del enclave palestino

Mundo

CIJ exige a Israel detener su operación militar en Rafah por riesgo de genocidio

Israel tendrá que presentar en el plazo de un mes un informe con todas las medidas puestas en marcha para cumplir con las órdenes anunciadas hoy por el tribunal