Skip to main content
  1. Casa
  2. Computación

Cómo es la base de datos de riesgos de IA creada por el MIT

Digital Trends Español

El MIT acaba de estrenar un documento esencial para instituciones laborales, gubernamentales, públicas y estudiantiles sobre los riesgos que conlleva el uso de IA y una categorización de potenciales peligros.

Recommended Videos

El Repositorio de Riesgos de IA, es una base de datos completa de cientos de riesgos documentados que plantean los sistemas de IA. El repositorio tiene como objetivo ayudar a los responsables de la toma de decisiones en el gobierno, la investigación y la industria a evaluar los riesgos cambiantes de la IA.

Como dice la gente del MIT: «Una completa base de datos viva de más de 700 riesgos de IA categorizados por su causa y dominio de riesgo».

El Repositorio de Riesgos de IA consta de tres partes:

  • La base de datos de riesgos de IA captura 700+ riesgos extraídos de 43 marcos existentes, con citas y números de página.
  • La taxonomía causal de los riesgos de la IA clasifica cómo, cuándo y por qué se producen estos riesgos.
  • La Taxonomía de Dominios de Riesgos de IA clasifica estos riesgos en siete dominios (por ejemplo, «Desinformación») y 23 subdominios (por ejemplo, «Información falsa o engañosa»).

El repositorio de riesgos de IA proporciona:

  • Una visión general accesible del panorama de riesgos de la IA.
  • Una fuente de información actualizada regularmente sobre nuevos riesgos e investigaciones.
  • Un marco de referencia común para investigadores, desarrolladores, empresas, evaluadores, auditores, responsables políticos y reguladores.
  • Un recurso para ayudar a desarrollar investigaciones, currículos, auditorías y políticas.
  • Una manera fácil de encontrar riesgos e investigaciones relevantes.
The AI Risk Repository explainer video

«Comenzamos nuestro proyecto con el objetivo de comprender cómo las organizaciones están respondiendo a los riesgos de la IA», dijo Peter Slattery, postdoctorado entrante en MIT FutureTech y líder del proyecto, al sitio VentureBeat. «Queríamos una visión completa de los riesgos de la IA para utilizarla como lista de comprobación, pero cuando analizamos la literatura, descubrimos que las clasificaciones de riesgos existentes eran como piezas de un rompecabezas: individualmente interesantes y útiles, pero incompletas».

El repositorio utiliza un sistema de clasificación bidimensional. En primer lugar, los riesgos se clasifican en función de sus causas, teniendo en cuenta la entidad responsable (humana o de IA), la intención (intencionada o no intencionada) y el momento del riesgo (antes o después del despliegue). Esta taxonomía causal ayuda a comprender las circunstancias y los mecanismos por los que pueden surgir los riesgos de la IA.

En segundo lugar, los riesgos se clasifican en siete dominios distintos, que incluyen la discriminación y la toxicidad, la privacidad y la seguridad, la desinformación y los actores malintencionados y el uso indebido.

El repositorio de riesgos de inteligencia artificial está concebido como una base de datos dinámica. Está disponible para el público y las organizaciones pueden descargarla para su uso personal. El equipo de investigación tiene previsto actualizar la base de datos regularmente con nuevos riesgos, descubrimientos investigativos y tendencias en desarrollo.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
He aquí por qué el módem C1 de Apple es una buena noticia para la futura duración de la batería de la MacBook
macbook air 15 pulgadas m2 analisis precio 11

En 2008, Steve Jobs dijo que Apple había pensado en agregar un módem 3G a sus computadoras portátiles para brindarles capacidades inalámbricas sin necesidad de una conexión Wi-Fi. Sin embargo, la compañía finalmente abandonó la idea porque los chips ocuparían demasiado espacio dentro de las famosas computadoras portátiles de Apple. Durante años, la idea parecía muerta en el agua.
Ahora, finalmente podría llegar a buen término 20 años después de la sincera afirmación de Jobs. Es un giro notable de los acontecimientos y podría traer numerosos beneficios a los s de MacBook.
Esta idea ha sido planteada por el periodista de Bloomberg Mark Gurman en su boletín Power On. Allí, Gurman explica que Apple planea llevar su chip de módem interno, demostrado por primera vez en el reciente iPhone 16e, a otros dispositivos Apple en los próximos años. Es casi seguro que eso incluiría algunos de los mejores MacBooks, y si lo hace, podría traer una gran cantidad de beneficios.
Trae los beneficios

Apple

Leer más
¿Por qué la IA de ChatGPT a veces “piensa” en chino?
ChatGPT: qué es y cómo usar el chatbot del que todo el mundo habla.

Si alguna vez has usado ChatGPT, podría haberte sorprendido descubrir que, en ocasiones, la inteligencia artificial (IA) parece “pensar” en chino u otros idiomas, incluso cuando la conversación está completamente en inglés o en español. Este curioso fenómeno no solo ha llamado la atención de los s, sino que también ha generado un debate entre expertos en inteligencia artificial sobre a qué se debe esta rareza.
El origen del misterio
El caso más notable de este comportamiento se dio poco después del lanzamiento del modelo de razonamiento llamado “o1” por OpenAI. Algunos s comenzaron a notar que el modelo aparentemente “cambiaba” de idioma a mitad de sus pasos lógicos. Por ejemplo, si se le preguntaba algo como “¿Cuántas R hay en la palabra 'strawberry'?”, el modelo podía llegar a la respuesta final en inglés, pero, mientras la procesaba, algunos pasos intermedios mostraban frases o razonamientos en chino, persa u otros idiomas.

https://x.com/RishabJainK/status/1877157192727466330

Leer más
¿Qué es el proyecto Stargate?: multimillonarios de la tecnología se unen a Trump
Trump stylized image

Segundo día de mandato oficial de Donald Trump y el presidente de Estados Unidos presentó el proyecto Stargate, que, según afirman, creará nuevas y maravillosas innovaciones en inteligencia artificial.

Flanqueado por el CEO de OpenAI, Sam Altman, el CEO de SoftBank, Masayoshi Son, y el CTO de Oracle, Larry Ellison, el mandamás estadounidense habló en una conferencia de prensa en la Sala Roosevelt de la Casa Blanca.

Leer más