Coautores: Sara Lim Bertrand (Nollab), Thomas Byrnes (MarketImpact)

Alifa*, de 10 años, está de pie con el barro hasta los tobillos frente a un refugio temporal, esperando saber si su familia ha sido incluida en la lista para recibir ayuda humanitaria. Dos meses antes, huyó con su madre enferma y sus dos hermanos menores después de que un bombardeo destruyera su acceso a alimentos, agua, escuela y atención sanitaria. Ahora les dicen que no figuran en la lista por diversas razones. Se han recortado los fondos. El programa ha tenido que establecer prioridades. Nadie puede explicar exactamente por qué se ha excluido a su familia. Nadie puede decirle cómo presentar un recurso.

Otras madres desoladas se quejan de que la selección de participantes en los programas se basa únicamente en algoritmos informáticos, sin darles la oportunidad de contar su historia de necesidad y sufrimiento. En todos los contextos humanitarios, se utilizan cada vez más sistemas basados en la inteligencia artificial para evaluar la vulnerabilidad, priorizar a los hogares, anticipar las necesidades y asignar la escasa ayuda disponible. Estas herramientas pueden ayudar a que los sistemas sobrecargados respondan más rápido. Pero cuando se basan en datos incompletos o en procesos de toma de decisiones opacos, también pueden hacer que los niños y niñas más vulnerables pasen más desapercibidos.

El niño que el algoritmo pasó por alto

Esta cuestión se abordó en la Semana de las Redes y Alianzas Humanitarias (HNPW), donde expertos de UNICEF, MarketImpact Digital Solutions y organizaciones como World Vision debatieron cómo la IA podría ayudar a los niños, niñas y jóvenes en situaciones de crisis mediante una educación más personalizada y un apoyo a la protección, como el proyecto Integrate. También examinaron los riesgos, especialmente para la protección infantil, y las implicaciones éticas del uso de la tecnología para ayudar a tomar decisiones sobre qué niños y niñas reciben asistencia.

Si se utiliza correctamente, la IA puede ayudar a predecir desastres, proporcionar apoyo antes de que las familias pierdan sus medios de subsistencia y brindar oportunidades de aprendizaje a la infancia que, de otro modo, se quedarían atrás.

Si se utiliza de forma inadecuada, puede agravar la exclusión. Cuando los algoritmos se basan en supuestos imperfectos —como imágenes satelitales que clasifican erróneamente las aldeas o los patrones de uso del teléfono—, los niños y niñas que más necesitan apoyo pueden pasar desapercibidos para los sistemas destinados a ayudarlos: niños sin documentos de registro civil, en situación de desplazamiento, separados de sus familias y no acompañados, los niños y niñas con discapacidad, los que viven en asentamientos informales, los que carecen de acceso fiable al teléfono, los que no asisten a la escuela, los que pertenecen a grupos lingüísticos marginados o los niños y niñas cuyos cuidadores no saben manejar los sistemas digitales.

Existen directrices sobre la IA y la infancia. Lo que se necesita ahora es una mayor inversión en la implementación, la supervisión y el cumplimiento para convertir los compromisos en resultados medibles para la infancia.

Los niños y los jóvenes deben tener voz a la hora de aprovechar las herramientas de IA

Los datos recopilados mediante imágenes satelitales no recogen las aldeas ni a los niños y niñas que nunca fueron evaluados. Las familias afectadas por conflictos y desastres tienen poca o ninguna visibilidad sobre cómo se recopilaron o utilizaron sus datos. Las agencias humanitarias tienen dificultades para comprender cómo los sistemas de IA elaboran las listas de beneficiarios de la ayuda.

Por qué la infancia más vulnerable desaparece de los sistemas digitales

A medida que el sector humanitario busca reinventarse ante el aumento de las crisis y la escasez crónica de financiación, la IA se presenta como parte de la solución. Pero la eficiencia por sí sola no basta. La verdadera prueba es si estas tecnologías respetan los derechos y la dignidad de los niños y niñas en situación de vulnerabilidad, tratándolos como seres humanos con capacidad de acción, y no meramente como datos que hay que procesar.

Cuando los gobiernos y los actores humanitarios carecen de registros exhaustivos, datos de encuestas recientes o un registro civil que funcione, la IA se utiliza como sustituto tanto en los gobiernos como en las organizaciones. Pero la mayoría de los niños y niñas afectados por estos sistemas no tienen ni idea de que existen ni de cómo influyen en su acceso a los servicios.

La tentación de la eficiencia en una era de recortes

Sabemos que las herramientas de IA no pueden sustituir por completo la experiencia humanitaria ni la adaptabilidad, la empatía, la capacidad de resolución de problemas y el compromiso con las comunidades del personal humanitario.

Ante la reducción de los presupuestos y el aumento de las crisis, el sector humanitario recurre cada vez más a la IA —un análisis rápido y de bajo coste, a una escala que ningún equipo humano puede igualar— en busca de respuestas. Estas herramientas pueden ayudarnos a anticipar las necesidades de la infancia o los patrones de desplazamiento y a responder a una escala que ningún equipo humano podría gestionar por sí solo. Sin embargo, deberíamos reflexionar antes de delegar decisiones que determinan la vida de las personas.

La tecnología puede servir de apoyo a la atención, pero no puede replicar la empatía, la confianza y la tranquilidad que proporciona un padre, un cuidador o un trabajador de primera línea cuando un niño o niña se enfrenta al miedo, la pérdida o la incertidumbre. El debate sobre la IA avanza más rápido que las medidas de protección diseñadas para proteger a la infancia.

Si bien las directrices interinstitucionales actualizadas ofrecen una hoja de ruta importante, ahora deben ir acompañadas de acciones concretas. Sin una supervisión sólida, la rápida expansión de la IA podría exponer a los niños a desinformación, riesgos para la privacidad y daños que aún no comprendemos del todo. El momento de establecer medidas de protección es antes de que estas tecnologías se integren en la respuesta humanitaria, no después.

La IA no puede sustituir el cuidado humano, la compasión ni el papel protector de las familias y las comunidades. Sin medidas de protección, la IA puede agravar el daño. Sin embargo, si se utiliza de forma responsable, puede ayudar a reforzar sistemas sobrecargados, acelerar el análisis, identificar patrones de desplazamiento y detectar el malestar psicosocial. Si se implementan de forma segura, las herramientas facilitadas por la IA también pueden ser una forma de amplificar las voces y las experiencias de los niños y los jóvenes. Los enfoques basados en los derechos y en la participación humana son esenciales siempre que la IA influya en el acceso a los servicios.

Cuatro medidas de protección fundamentales

A medida que las organizaciones humanitarias recurren cada vez más a la IA, hay cuatro medidas de protección que resultan esenciales.

• En primer lugar, ningún algoritmo debe tener la última palabra sobre si una familia recibe asistencia. La supervisión humana significativa debe seguir siendo el núcleo de las decisiones que afectan a la vida de las personas.

• En segundo lugar, las familias necesitan vías reales y accesibles para impugnar las decisiones, no mecanismos de reclamación que existan sobre el papel pero que fallen en la práctica.

• En tercer lugar, la rápida difusión de las herramientas de IA no puede ir en detrimento de la rendición de cuentas.

• Y, por último, la alfabetización en IA debe considerarse una necesidad humanitaria.

Los niños y niñas son titulares de derechos, no meros datos

El cambio silencioso en la tecnología digital y la IA está superando en rapidez cualquier debate prolongado sobre la protección, los principios éticos básicos y la protección de datos, la sensibilización y la inclusión, así como las responsabilidades en contextos humanitarios complejos. Los enfoques de «seguridad desde el diseño» centrados en la infancia deben sustentar nuestro uso de la IA.

Es fundamental pasar ahora a prácticas basadas en principios, reforzando la alfabetización digital y en IA de los cuidadores, los educadores, el personal de primera línea y los jóvenes, y garantizando una supervisión humana significativa siempre que la IA influya en el acceso a los servicios y al apoyo.

Las decisiones que tomen ahora las organizaciones humanitarias, los gobiernos, los donantes y los socios del sector privado determinarán si estas herramientas de IA agravan las desigualdades existentes o contribuyen a los derechos de la infancia, su dignidad, protección, inclusión, participación significativa y adecuada a su edad, y resiliencia a través de un ecosistema humanitario de IA colaborativo y responsable. Podemos hacer más con menos, pero debemos asegurarnos de que cada niño y niña cuente, incluso aquellos que no quedan reflejados en un algoritmo.

Autores: La Dra. Kathryn Taetzsch es directora sénior de Capacidad y Competencias Humanitarias y de Desarrollo de World Vision. Kathryn cuenta con más de 25 años de experiencia en respuesta humanitaria estratégica y operativa, así como en investigación académica, en contextos frágiles, afectados por conflictos y desastres naturales en África, Asia, Oriente Medio, Europa del Este y América Latina.

Thomas Byrnes es director ejecutivo y fundador de MarketImpact Digital Solutions, una empresa de consultoría humanitaria y asesoramiento en IA dirigida por profesionales del sector. Thomas cuenta con más de 15 años de experiencia sobre el terreno en más de 20 países y publica «Tom’s Aid&Dev Dispatches», un boletín semanal en LinkedIn sobre la IA en los sistemas humanitarios y de desarrollo.

Sara Lim Bertrand colabora con organizaciones para diseñar soluciones bien pensadas y prácticas en materia de protección infantil, educación en situaciones de emergencia, protección de menores, violencia de género y salud mental y apoyo psicosocial (MHPSS). Su trabajo combina conocimientos técnicos y tecnología creativa con la narración de historias y el diseño, ayudando a las personas a aprender, conectar y avanzar juntas.

*Alifa es un personaje ficticio creado a partir de experiencias documentadas de hogares afectados por la priorización basada en datos en la ayuda humanitaria. No es una persona real.