IA generativa / chatbots con IA: riesgos y buenas prácticas

Boletín informativo del 3.º trimestre

 

¿Qué es la IA?

El término “inteligencia artificial”, conocido sencillamente como “AI”, hace referencia a cualquier tipo de inteligencia que muestre una máquina, en vez de la de un humano. En los últimos meses, la IA ha causado furor gracias a las aplicaciones generativas como ChatGPT, Google Bard y DALL-E, que imitan el razonamiento y creatividad humanas.

 

¿Cómo se usan los chatbots con IA?

Los chatbots con IA son asistentes virtuales que pueden ayudarte a realizar tareas diversas mediante una conversación natural. Por ejemplo, puedes pedirles que encuentren respuestas obtenidas de internet, crear artículos, escribir y encontrar errores en tu código, resumir documentos, crear obras de arte y traducir texto a otros idiomas.

 

¿Cuáles son los riesgos?

Al igual que con cualquier otra aplicación o servicio de terceros, los chatbots con IA tienen sus riesgos. Estos dos son los más importantes de los que debes ser consciente:

  • Revelación no autorizada: todo lo que teclees, pegues o subas a un chatbot con IA puede ser almacenado en los servidores de la empresa matriz para entrenar al chatbot. Al igual que otros servicios de terceros, una vez que los datos abandonan el entorno seguro de tu organización, no hay forma de controlar o predecir quien puede acceder a ellos. Por lo que si subes o copias código fuente confidencial, los modelos de un producto, o tu propia información personal, por poner varios ejemplos, el chatbot con IA puede utilizar dichos datos para ayudar a generar una respuesta a la pregunta de otra persona.
  • Alucinación: otro riesgo, conocido como alucinación, es que el chatbot puede crear contenido inventado o que sencillamente no es cierto. Se puede inventar, por ejemplo, estadísticas o menciones a casos legales que no han tenido lugar.

 

¿Cómo pueden protegerse los usuarios?

Dados los riesgos que conllevan los chatbots con IA, es importante que sigas unas buenas prácticas para tener tus datos a buen recaudo y asegurar que obtienes resultados precisos y útiles.

  • Solo utiliza chatbots con IA que hayan recibido la aprobación de TI y dirección.
  • Nuca teclees, pegues o subas datos sensibles a un chatbot con IA, como por ejemplo: código fuente, informes de resultados, presentaciones internas, propiedad intelectual, datos de clientes, documentos jurídicos, etc.
  • El mejor uso que se puede hacer de un chatbot con IA es pedirles que investiguen temas de investigación complejos o crear nuevo contenido como artículos, código u obras de arte.
    • Para obtener los mejores resultados, entrena tus habilidades en ingeniería de peticiones (prompt engineering en inglés), que es la acción de escribir instrucciones precisas y descriptivas. Al contrario que la búsqueda tradicional, los chatbots con IA pueden entender sentencias y requerimientos múltiples. Pueden incluso mantener un flujo conversacional, lo que te permite realizar preguntas complementarias sin tener que repetir las instrucciones previas.
  • Verifica siempre la autenticidad del resultado. Por ejemplo, si el chatbot menciona una anécdota histórica, un estudio científico o un precedente legal, no utilices dicha información hasta que la hayas contrastado con otra fuente oficial o haciendo una consulta a un experto en tu organización.