El club nocturno y la biblioteca: por qué el sector social no puede darse el lujo de quedarse al margen de la IA

Paso la mayor parte de mis días construyendo herramientas de IA. Tres startups. Programando hasta la una o las dos de la madrugada. Lanzando una plataforma de marketplace entera en un fin de semana. El ritmo se siente como un club nocturno en su hora pico. Incesante. Eléctrico. Agotador.

Luego entro en espacios de impacto social. Y es como salir de un rave y entrar a una biblioteca. Todos en silencio. Cautelosos. Moviéndose con cuidado entre los estantes.

Las mismas ciudades. Los mismos códigos postales. Mundos aparte.

Esa brecha no es solo cultura. Es poder.

El financiador al fondo de la sala

El mes pasado moderé un panel para Northern California Grantmakers junto a Beth Kanter John Kenyon y Sophie Owens. La sala estaba llena de financiadores. Hacia el final de la sesión de preguntas y respuestas, una mujer al fondo levantó la mano.

«Entonces me estás diciendo que estos modelos de IA están destruyendo el medio ambiente. Construidos sobre la extracción de contenido protegido por derechos de autor. Que vulneran la privacidad. Que perpetúan sesgos racistas. ¿Qué tienen exactamente de bueno? ¿Por qué yo, como financiadora, debería apoyar algo construido sobre estos modelos?»

La sala quedó en silencio. No se equivocaba. Estaba poniendo en palabras lo que todos pensaban.

El cuarto piso de la biblioteca

Dos semanas después estuve en la San Francisco Public Library, co-dirigiendo un taller práctico con unos 30 profesionales del sector sin fines de lucro junto a Darian Rodriguez Heyman y Adamaka Ajaelo. La sesión fue una colaboración con Jerry Trotter de la San Francisco Office of Economic and Workforce Development y Reymon (Rey) LaChaux de la Mayor's Office of Housing and Community Development.

Cuarto piso. Una sala revestida de madera. Estanterías hermosas. Teníamos una laptop conectada a una pantalla grande, ejecutando prompts en vivo a medida que la gente hacía preguntas.

Y entonces llegamos al tema de la privacidad.

Durante quince minutos, el miedo llenó esa sala. Una mujer temía que la información de un formulario fiscal 990 sobre la atención a comunidades inmigrantes pudiera usarse en contra de las personas que ellos protegen. Otra mujer trabaja con personas que se reintegran a la sociedad tras haber estado encarceladas. Le preocupaba que ingresar cualquier información sobre ellas en la IA pudiera vulnerar su privacidad y aumentar su vulnerabilidad.

Observé los rostros de la gente mientras explicábamos cómo desactivar las configuraciones que permiten a las empresas entrenar modelos con tu contenido. Cómo usar APIs y cuentas empresariales. En qué empresas confiar, y por qué la confianza es complicada cuando todos hemos visto a empresas vulnerar la privacidad de maneras que nos sorprendieron.

Estas preocupaciones son legítimas. Las organizaciones sin fines de lucro atienden a poblaciones vulnerables. Muchas tienen menos de 10 personas en su equipo. No cuentan con expertos técnicos para evaluar cada herramienta. Las consecuencias de equivocarse son reales.

Y tengo que ser honesto: desactivar las configuraciones de entrenamiento no significa que no haya registro ni retención de datos. Las cuentas empresariales no significan riesgo cero. Asume que cualquier cosa que pegues podría quedar expuesta algún día, aunque sea poco probable. Aquí no existe una opción perfectamente limpia.

Y aun así.

Los dos líderes en la primera fila

En ese mismo taller, dos líderes latinos estaban sentados en la primera fila. Intentaban descubrir cómo recaudar fondos para sus comunidades durante uno de los años de recaudación más difíciles que se recuerden. Vientos en contra del DEI por todas partes. Financiadores que se replegaban. El clima político hostil.

Ejecutamos un prompt en vivo juntos: «Ayúdame a generar una lista de financiadores que, a pesar de los vientos en contra del DEI y de este clima político, sigan dando un paso al frente para servir a la comunidad latinx».

En unos 30 segundos, la pantalla se llenó con más de 20 organizaciones. Latino Community Foundation. Hispanics in Philanthropy. Hispanic Federation. Ford Foundation. Yield Giving de MacKenzie Scott. The California Endowment. El LatinXCEL Fund de Silicon Valley Community Foundation. Cada una con una breve justificación, que luego verificamos.

Los dos líderes quedaron impactados. Lo que habría tomado semanas de investigación —si acaso sabían por dónde empezar— acababa de ocurrir frente a ellos.

Se fueron alentados. No porque la IA hubiera resuelto su problema. Sino porque vieron una herramienta que podía ayudarlos a navegar vientos en contra imposibles con nuevas ideas.

Esa es la transformación que sigo viendo ocurrir. No «la IA nos salvará». Sino «ah, puedo usar esto para X, y sé que no debo usarlo para Y».

La infraestructura fundamental

La IA se está convirtiendo en infraestructura de propósito general. Más parecida a la electricidad que a una aplicación.

Para generar electricidad, tienes que consumir recursos naturales. Puedes quemar carbón. Quemar petróleo. Represar ríos. Generar energía solar. Hay compensaciones con cada fuente. Y aun así, todos necesitamos electricidad para ser productivos, para participar en la economía.

Puedes abogar por fuentes más limpias. Impulsar mejores regulaciones. Elegir proveedores con más cuidado. Pero negarse a encender el interruptor no es una opción para la mayoría de las personas que quieren funcionar en la economía moderna. Puedes optar por quedarte fuera de manera individual. Pero no puedes optar por quedarte fuera de los sistemas que la están adoptando a tu alrededor.

He aprendido, tras dos décadas en el impacto social corporativo, que la tecnología amplifica los sistemas existentes. Hace que los buenos sistemas sean mejores y que los sistemas rotos sean peores. Por eso la biblioteca hace bien en ser cautelosa. Los sistemas rotos —contrataciones sesgadas, préstamos abusivos, vigilancia de comunidades vulnerables— empeoran cuando les agregas IA.

Pero también es la razón por la que no podemos quedarnos al margen. Si no estamos dándole forma a las aplicaciones, ni demostrando lo que la IA puede hacer por las comunidades, ni ganando credibilidad a través del uso, perdemos nuestro lugar en la mesa cuando llegue el momento de abogar por salvaguardas.

Es difícil diseñar salvaguardas para una herramienta que nunca has usado.

La confesión de la persona puente

Necesito ser honesto sobre algo.

Cuando dirigía la filantropía en Google.org, una de mis funciones principales era suavizar el entorno regulatorio. Dialogar con los responsables de políticas. Lograr que funcionarios electos asistieran a los anuncios. Aportar citas para los comunicados de prensa que daban a entender que estas empresas tienen en el corazón los mejores intereses de la sociedad.

Participé en esa maquinaria. Me esforcé por sostener la tensión entre el beneficio de la empresa y el beneficio de la comunidad. No siempre lo hice a la perfección. Algunos proyectos en los que trabajé le dieron un fuerte halo a la empresa y redujeron la presión regulatoria de maneras que beneficiaron más a Google que a las comunidades que decíamos servir.

Eso es parte de ser una persona puente. Si vas a tender puentes, te vas a ensuciar las manos. No puedes ser ideológicamente puro. Puedes esforzarte por equilibrar bien esas cosas. No siempre lo lograrás.

Digo esto porque creo que necesitamos más personas puente. Personas dispuestas a vivir en esa tensión. Personas que se nieguen a ceder ante la utopía tecnológica, pero que tampoco tengan miedo de involucrarse. Gente que entiende las externalidades, pero que no se va a quedar al margen mientras otros rediseñan la economía.

Si permitimos que el sector privado monopolice por completo esta herramienta, estaremos peor. Necesitamos usarla. Necesitamos ganarnos nuestro lugar en la mesa. Eso significa ensuciarnos las manos.

La escalera de riesgo

Este es el marco práctico que he estado compartiendo en estos talleres. Piénsalo como una escalera:

Nivel 1 — Bajo riesgo (contenido de cara al público): Redactar boletines. Reescribir correos. Resumir informes públicos. Generar publicaciones para redes sociales. Investigar financiadores. Nada de esto involucra datos sensibles.

Nivel 2 — Interno, baja sensibilidad: Grabaciones y resúmenes de reuniones con el consentimiento del equipo. Descripciones de puestos. Actualizaciones de documentos de estrategia. Comunicaciones internas. Todavía sin datos de las personas atendidas.

Nivel 3 — Sensible, solo con salvaguardas: Únicamente herramientas empresariales. Minimización de datos. Eliminar la información identificadora antes de pegarla. Políticas documentadas sobre qué se ingresa y qué no.

Nunca: Información que identifique a las personas atendidas o datos legalmente sensibles en herramientas de chat de consumo. Punto.

La mentalidad de fondo es simple: recorre tu día preguntándote: «Esta tarea me toma mucho tiempo. ¿Puede ayudarme la IA?». Luego verifica en qué nivel encaja.

La mayor parte de lo que abruma al personal de las organizaciones sin fines de lucro —investigar subvenciones, tomar notas de reuniones, comunicarse con donantes, documentos de estrategia que llevan meses desactualizados— vive en los Niveles 1 y 2. Ahí es donde empiezas.

La petición

Necesitamos personas con conciencia social y cercanía a los problemas sociales involucrándose con estas herramientas. Impulsando soluciones. Dándole forma a la conversación pública. Encontrando aplicaciones que el sector privado no priorizará.

La biblioteca es donde hacemos las preguntas para las que el club nocturno no tiene tiempo. Necesitamos esa cautela. Pero si lo único que hacemos es quedarnos entre los estantes mientras todos los demás están en la pista, ese no es el lugar donde debemos estar ahora mismo.

Nuestras comunidades se mueven más despacio de lo que el momento exige. Ese ritmo es una respuesta racional ante consecuencias altas y poca capacidad. Pero también nos está dejando atrás mientras el sector privado reescribe las reglas de la economía.

Cada vez que paso del club nocturno a la biblioteca, el contraste se vuelve más chocante. No porque las preocupaciones en la biblioteca sean ilegítimas. No lo son. Sino porque la música del club nocturno no se detiene.

Así que esta es mi pregunta: ¿Cuál es una cosa que podrías probar en los próximos 30 días? Una tarea que toma demasiado tiempo, un flujo de trabajo que te abruma, un lugar donde estarías dispuesto a encender el interruptor y ver qué pasa.

Me encantaría saber con qué estás experimentando, o qué es lo que todavía te detiene.

Justin Steele es cofundador y CEO de Kindora, una Public Benefit Corporation que usa la IA para ayudar a las organizaciones del sector social a encontrar y conseguir financiamiento. Anteriormente dirigió cerca de 700 millones de dólares en filantropía en Google.org a lo largo de una década y se desempeña como fideicomisario en The San Francisco Foundation. Este artículo se publicó originalmente en LinkedIn.