Desafíos actuales de la Inteligencia Artificial

En el vertiginoso mundo de la tecnología, la Inteligencia Artificial (IA) se ha convertido en un tema candente que capta la atención de medios y expertos. Aunque muchas discusiones se centran en un futuro catastrofista en el que una IA superinteligente podría acabar con la humanidad, es crucial desviar la atención hacia los desafíos presentes que esta tecnología plantea. Esta preocupación por un futuro apocalíptico, donde la IA podría llegar a ser tan inteligente y autónoma que ponga en riesgo nuestra propia existencia, nos hace perder de vista los problemas inmediatos y tangibles que ya están ocurriendo. Mientras nos obsesionamos con escenarios distópicos lejanos, la IA ya está afectando significativamente a nuestra vida cotidiana, nuestro medio ambiente y nuestras estructuras sociales. Este enfoque en los peligros futuros puede parecer más dramático y atrayente para los medios, pero es imperativo que empecemos a centrarnos en las consecuencias actuales de la IA y en cómo podemos mitigar sus efectos negativos hoy mismo. Este enfoque no solo es necesario, sino urgente, para abordar los impactos tangibles que ya estamos experimentando y que seguirán creciendo si no tomamos medidas adecuadas.

La IA en el Contexto Actual

La IA no opera en el vacío; está profundamente integrada en nuestra sociedad y su influencia se siente en diversas áreas, desde la salud hasta el entretenimiento. Sin embargo, esta integración no está exenta de problemas. A diario, los titulares nos recuerdan tanto los avances como los peligros de la IA. Por ejemplo, mientras que los modelos de IA han descubierto nuevas moléculas para la medicina, también han generado recetas peligrosas y han emitido consejos destructivos. Veamos a continuación cuáles son las problemáticas y desafíos con respecto a la inteligencia artificial que nos deben preocupar inminentemente.

Impacto Ambiental de la IA

A medida que el uso de la IA aumenta rápidamente, la sociedad necesita comprender cómo esta nueva tecnología impacta el medio ambiente. Esto significa que necesitamos un sistema riguroso para rastrear el uso de energía y las emisiones de carbono. Leyes que regulen el impacto ambiental de la inteligencia artificial deben ser implantadas y es un paso vital para estudiar cómo la IA contribuye a la crisis climática y poner soluciones. Esto aportaría una necesaria transparencia y responsabilidad a la emergente industria de la IA. Por otro lado, las empresas tecnológicas deben comenzar a medir y divulgar estos costos ambientales para buscar soluciones más sostenibles y por otra parte los usuarios deberían de estar informados de qué supone para el medio ambiente, el uso de una u otra herramienta y versiones como por ejemplo Chat-GPT3 o 4, de ahí que surjan aplicaciones como CodeCarbon.io , que estima la cantidad de dióxido de carbono (CO2) producido por la nube o los recursos informáticos personales utilizados para ejecutar determinados aplicativos y da información a los desarrolladores de cómo pueden reducir las emisiones optimizando su código o alojando su infraestructura en la nube en regiones geográficas que utilizan fuentes de energía renovables.

Derechos de Autor y Consentimiento

Otro desafío crucial es el uso no autorizado de obras de arte y literatura para entrenar modelos de IA, temática esta última de la que hablaba en un anterior artículo titulado  «El Futuro del Entrenamiento de los modelos de Inteligencia Artificial«. Artistas y escritores han visto cómo su trabajo es utilizado sin su consentimiento, lo que ha llevado a demandas colectivas por infracción de derechos de autor. Herramientas como Spawning.ai  permiten a los creadores verificar si su trabajo ha sido utilizado en conjuntos de datos de IA, proporcionando la evidencia necesaria para tomar acciones legales. Spawning está construyendo una solución que abarca todo el ecosistema para satisfacer las necesidades de los titulares de derechos y los desarrolladores de IA. Las herramientas para titulares de derechos les permiten agregar medios al registro de «no entrenar» de Spawning , señalando las preferencias de uso de datos de más de 1.500 millones de obras individuales y siendo respetado por socios como Stability AI y Hugging Face. Las herramientas para desarrolladores hacen que sea fácil y eficiente filtrar las solicitudes de «no entrenar». El paquete Data Diligence y la API de Spawning muestran todos los métodos de reserva de derechos legibles por máquina y mantienen a los desarrolladores cumpliendo con las excepciones de derechos de autor TDM de la UE.

Sesgos en la IA

Los sesgos, de los que ya he hablado en artículo anterior, incorporados en los modelos de IA representan un problema significativo, especialmente cuando se utilizan en aplicaciones críticas como el reconocimiento facial y la justicia penal. La IA falla por ejemplo al  reconocer adecuadamente a personas de color, un sesgo que puede llevar a consecuencias devastadoras como acusaciones falsas e injustas. Herramientas como Stable Bias Explorer permiten analizar estos sesgos según la plataforma que utilicemos, proporcionando datos cruciales no solo para el que lo usa, sabiendo que esos aplicativos están o no sesgados, sino también para la creación de políticas más justas y equitativas. Por poner un ejemplo podríamos hacer una búsqueda de las imágenes que tiene un modelo con respecto a una profesion determinada, pongamos Ingeniería aeroespacial y nos sorprendería ver que solo se muestran fotos de hombres blancos en los resultados. También cabe la posibilidad de comparar modelos para saber cual es mejor a la hora de eliminar determinadas discriminaciones o sesgos.

Conclusión

Centrarnos en los peligros futuros de la IA puede desviar nuestra atención de los impactos presentes que ya están afectando a nuestra sociedad y planeta. Es imperativo que abordemos estos desafíos actuales con urgencia. Al desarrollar y utilizar herramientas que promuevan la transparencia, la sostenibilidad y el respeto a los derechos de autor, podemos construir un camino más ético y responsable para el futuro de la IA. Para ello el Humanismo Digital, con todas sus vertientes que intento tratar en este espacio, nos llama a considerar no solo los avances tecnológicos, sino también su impacto en la humanidad y el medio ambiente, asegurando que el desarrollo de la IA beneficie a todos sin comprometer nuestro futuro.