Por lo anterior, todos los actores del ecosistema deben ser proactivos para implementar políticas y acciones para atender los diversos riesgos que encarnan las soluciones basadas en datos, particularmente aquellas que aprovechan tecnologías de IA. Las decisiones que toma un sistema de IA pueden estar sesgados y discriminar por criterios raciales o de género (Washington Post, 2022). También se ha identificado un decaimiento en el desempeño de los sistemas de IA una vez trabajan con datos reales, ya que los datos con los cuales son entrenados no cubren todos los escenarios de análisis posibles (PWC, 2021).

Por otra parte, existen retos sociales que surgen del desarrollo de la IA como industria. En primer lugar, empleos reemplazados por la IA, ya que existen trabajos que podrían automatizarse con facilidad, en particular aquellos que implican actividades físicas y/o repetitivas. Este tipo de empleos podrían reemplazarse reubicando a las personas en empleos que requieran de un mayor nivel cognitivo (WEF, 2016), por lo que se estima que para 2025 desaparecerían 85 millones de empleos, pero al mismo tiempo se crearían otros 97 millones (Forbes, 2022). Lo anterior lleva al segundo reto, y es el de las nuevas inequidades monetarias, pues siempre que una solución de IA reemplace a una persona, Aumentará el desempleo y habrá un aumento en la concentración de la riqueza en aquellos propietarios de la IA (WEF, 2016).

El tercer reto social es moderar la influencia de las máquinas en los comportamientos de las personas, pues el desarrollo de la IA incrementa el volumen de interacciones que las personas tienen con máquinas, creando dependencia. Por otra parte, este tipo de tecnologías podrían representar oportunidades para el beneficio de la sociedad (WEF, 2016). Por ejemplo, el Procesamiento de Lenguaje Natural, está transformando el sector de la salud, mejorando la documentación, la selección de candidatos para pruebas clínicas, chatbots para terapeutas virtuales, entre otros (Marutitech, 2021).  

Socioculturalmente existen otros riesgos, como son la desinformación y manipulación, espionaje, vigilancia y conflictos. Algunos riesgos para las empresas están asociados con su reputación, desempeño financiero, estatus legal, discriminación, desalineación de valor, riesgos económicos como la concentración de poder que afectaría la libre competencia. También, existen riesgos a nivel de las aplicaciones de IA, por ejemplo, por errores en su desempeño y falta de transparencia; riesgos a la seguridad de estos sistemas, como son ataques externos, ciber intrusión y violación de la privacidad y riesgos asociados con el uso de software de fuente abierta. Esto se acentúa por la posible falta de control humano, dificultades para detectar IA irregular y las consecuencias involuntarias de su uso, así como la falta de claridad en la rendición de cuentas (PWC, 2021).

Estos desafíos traen consigo nuevas exigencias para ser socialmente responsables en la creación y uso de sistemas de IA. Solo 21% de las empresas tienen un marco ético de IA, y solo 35% se propone mejorar la gobernanza de sus sistemas y procesos de IA (PWC, 2021). Dentro de las estrategias aplicadas está la implementación de una política ética de IA, en la que se Identifiquen posibles dilemas éticos, se planteen cuáles serían los estándares éticos que seguiría la organización, comunicándolos a sus grupos de interés relevantes, incluyendo estrategias de capacitación, cambios en la cultura de las organizaciones y procesos para operativizar las políticas éticas en las organizaciones. Una segunda estrategia es formar comités éticos de IA con expertos técnicos que identifiquen los riesgos éticos, reputacionales, regulatorios y legales del uso de IA.

En consecuencia, los gobiernos deben ser líderes en el uso sostenible de soluciones de IA, garantizando la inclusión y privacidad, pero así mismo la rendición de cuentas y la transparencia de las aplicaciones desarrolladas. Campo en el que se ve el liderazgo de países como Estonia y Noruega, pero se encuentran rezagados países como Estados Unidos y China, que en general tienen mejores condiciones y ecosistemas para el aprovechamiento de las tecnologías basadas en datos. En Colombia, existen grandes brechas en cuanto a la capacidad del país para hacer uso responsable de la IA, ya que existe un bajo nivel de inclusión en el uso de estas herramientas, baja transparencia sobre el funcionamiento de soluciones de IA y particularmente, grandes desafíos en la protección de la privacidad de los ciudadanos (Oxford Insights, 2020).