Las agencias gubernamentales aprovechan las herramientas de inteligencia artificial y los grandes modelos de lenguaje

La inteligencia artificial (IA) y las tecnologías de aprendizaje automático se están expandiendo a las aplicaciones gubernamentales a medida que las agencias comienzan a utilizar poderosos recursos para cumplir sus misiones.

Si bien los modelos de lenguajes grandes (LLM) como ChatGPT, OpenAI y Meta pueden ser valiosos, los funcionarios de las agencias dijeron que no pueden usar los modelos a escala debido a problemas de seguridad.

"Los modelos son tan grandes que traerlos a nuestro entorno seguro probablemente tenga un costo prohibitivo y además la compañía no nos ha dado acceso a los modelos en sí", dijo el teniente coronel Joseph Chapa, jefe de datos del Departamento de la Fuerza Aérea de EE. UU. y Oficial de IA, durante la Cumbre de IA de ATARC el miércoles.

Chapa dijo que los modelos de lenguaje grandes actualmente no están certificados para el nivel de datos de las agencias, por lo que existen varias restricciones.

“Todo lo que hagamos con los sistemas tiene que ser completamente desclasificado y no sensible”, dijo Chapa.

Pero Chapa dijo que la agencia tiene la esperanza de que modelos más pequeños de código abierto proporcionen herramientas seguras para datos clasificados.

Mientras tanto, las agencias también están trabajando internamente para combatir los problemas de seguridad y crear un entorno seguro para los datos. El año pasado, por ejemplo, la Guardia Costera de EE. UU. creó una rama de datos climáticos que se centra en la construcción de nueva infraestructura para ejecutar aplicaciones de IA y LLM.

“Lo que encuentro más emocionante en este momento es que llegamos un poco tarde al partido. Pero tampoco tuvimos que aprender todas las lecciones que aprendieron los primeros usuarios”, dijo Jonathan White, jefe de la División de Nube y Datos de la Guardia Costera, durante la cumbre.

White dijo que los grandes modelos de lenguaje son sólo una porción del pastel de la IA y que la agencia siente mucha “curiosidad por la IA” porque comprende cuán ingeniosa será la tecnología.

“Con una fuerza laboral limitada, es extremadamente difícil ubicar a las personas en los lugares correctos todo el tiempo, entonces tenemos muchas políticas, regulaciones, reglas y todo lo demás que acompaña a esas misiones. ¿No sería fantástico si pudiéramos tener una herramienta que pueda obtener una respuesta a su pregunta relacionada con esas políticas y regulaciones? explicó White. "Si están en medio de una inspección o en medio de una advertencia [y] necesitan hacer una pregunta, ¿no sería genial tener un asistente digital para mostrar la información que necesitan para realizar esa inspección?".

Sin embargo, los expertos dijeron que no pueden confiar completamente en la tecnología porque debe haber un humano en el circuito para evitar errores.

“Esto no es diferente a cómo hacemos negocios en general. Cuando creamos un nuevo proyecto, tenemos que tener revisores, cuando haces cualquier tipo de investigación, tienes revisores de investigación", dijo David Na, líder de las Fundaciones Cloud AIML de la NASA durante la cumbre. "Necesitamos revisores para el contenido que se genera. por estos grandes modelos de lenguaje”.

A medida que las agencias gubernamentales encuentran valor en los grandes modelos lingüísticos, Chapa dijo que son conscientes de que los desafíos pueden persistir. "Sé que la gente está utilizando estos modelos por su cuenta; en algún momento habrá algunos deslices o algunas filtraciones", señaló.

Pero Chapa dijo que el mejor uso de los modelos de generación de texto es cuando ya se conoce la información básica, por lo que es fácil validar los hechos.

“Será tentador para los analistas querer utilizar la herramienta para obtener información sobre el mundo. Y no estoy diciendo que no debamos hacer eso. Lo que digo es que debemos reconocer que si vamos a utilizar estas herramientas en esa capacidad, tenemos que construir capas institucionales de verificación de datos además de eso”, dijo Chapa.

A pesar de los desafíos que pueden crear los grandes modelos lingüísticos, los funcionarios de la agencia dijeron que están entusiasmados con la experiencia de búsqueda mejorada, la accesibilidad de los datos y las otras posibilidades que brindarán las herramientas de inteligencia artificial.