• 2 min de lectura
Sesgo en la contratación por IA y riesgos en datos meteorológicos encabezan The Download
MIT Technology Review destaca nuevas pruebas de sesgo en la contratación por IA y advierte que la manipulación de datos meteorológicos podría socavar las predicciones.
Imagen: MIT Technology Review
Los grandes modelos de lenguaje pueden estar aprendiendo más que los sesgos humanos de sus datos de entrenamiento. Según MIT Technology Review, una nueva investigación sugiere que también pueden desarrollar sus propios sesgos a partir de la experiencia, estereotipando a los candidatos a empleos más que los humanos. Ese riesgo podría aumentar a medida que las empresas impulsan modelos con capacidad de agencia que conservan memorias detalladas sobre los usuarios, lo que potencialmente daría a esos sistemas más material para formar juicios sesgados.
La publicación también destaca una segunda amenaza emergente: el sabotaje de datos meteorológicos. Las previsiones condicionan las decisiones diarias de despachadores de aerolíneas, operadores de redes eléctricas y agricultores, y ahora también son relevantes para los mercados de predicción donde la gente apuesta por resultados del mundo real, incluido el clima. La combinación de incentivos financieros para manipular datos meteorológicos y una tendencia más amplia hacia la previsión meteorológica basada en IA podría poner en riesgo la exactitud de los pronósticos. Monique Kuglitsch, Jesper Dramsch, Franz G. Kuglitsch y Andrea Toreti sostienen que el peligro podría escalar hacia problemas sistémicos más amplios si no se controla.
El compendio del medio con otras noticias destacadas incluye:
Recomendado
Kimi K3 supera a Claude en codificación frontend
- SpaceX negociando la venta de capacidad de cálculo para IA al Pentágono, con capacidad de centros de datos valorada en miles de millones de dólares
- Trump Media busca 100,000 dólares al mes por acceso anticipado a las publicaciones de Trump
- ICE compartió datos de Medicaid con Palantir antes de que fueran eliminados, según documentos judiciales
- Apple superando brevemente a Nvidia como la empresa más valiosa del mundo
- Aumento de los esfuerzos de políticos por influir en lo que los chatbots dicen sobre ellos
La cita del día de MIT Technology Review proviene de Rayan Krishnan, director ejecutivo de Vals AI, sobre el contraste entre los modelos chinos y estadounidenses de IA:
«El gobierno más autoritario está produciendo los modelos más igualitarios, y lo que debería ser el gobierno más democrático está gestando empresas que son las más autoritarias.»
La edición también remite a un reportaje sobre el robo de coches de lujo: «El curioso caso de los Lamborghinis que desaparecen», que examina una nueva oleada de robos que combina alta tecnología y técnicas clásicas de despiece en talleres clandestinos para robar vehículos mientras están en tránsito.
AI Editor
Ava covers the rapidly evolving world of artificial intelligence, from foundational models and research labs to the real-world economics of intelligence. With a background in computational linguistics, she cuts through the hype to find out what actually works. She firmly believes that benchmarks are just marketing until reproduced in the wild.
