Blog

Jul 27, 2023

Cuatro formas de mostrar a los clientes que pueden confiar en su herramienta empresarial de IA generativa

En los albores de la revolución de la nube, en la que las empresas trasladaron sus datos desde las instalaciones a la nube, Amazon, Google y Microsoft tuvieron éxito, al menos en parte, gracias a su atención a la seguridad.

En los albores de la revolución de la nube, en la que las empresas trasladaron sus datos desde las instalaciones a la nube, Amazon, Google y Microsoft tuvieron éxito, al menos en parte, debido a su atención a la seguridad como una preocupación fundamental. Ningún cliente a gran escala consideraría siquiera trabajar con una empresa de nube que no tuviera la certificación SOC2.

Hoy se está produciendo otra transformación generacional: el 65% de los trabajadores ya dice que utiliza la IA a diario. Los modelos de lenguajes grandes (LLM), como ChatGPT, probablemente cambiarán los negocios de la misma manera que lo hicieron antes la computación en la nube y los modelos de suscripción SaaS.

Una vez más, esta tecnología incipiente conlleva un escepticismo bien ganado. Los LLM corren el riesgo de “alucinar” información fabricada, compartir información real de manera incorrecta y retener información confidencial de la empresa que les proporcionen empleados desinformados.

Cualquier industria que toque LLM requerirá un enorme nivel de confianza entre los aspirantes a proveedores de servicios y sus clientes B2B, quienes son, en última instancia, quienes corren el riesgo de un desempeño deficiente. Querrán analizar su reputación, integridad de datos, seguridad y certificaciones. Los proveedores que tomen medidas activas para reducir el potencial de “aleatoriedad” de los LLM y generen la mayor confianza serán grandes ganadores.

Por ahora, no existen organismos reguladores que puedan otorgarle un sello de aprobación "confiable" para presumir ante clientes potenciales. Sin embargo, aquí hay formas en las que su organización de IA generativa puede construirse como un libro abierto y así generar confianza con los clientes potenciales.

Aunque actualmente no existen certificaciones específicas sobre seguridad de datos en IA generativa, solo ayudará a su credibilidad obtener tantas certificaciones adyacentes como sea posible, como el cumplimiento de SOC2, el estándar ISO/IEC 27001 y la certificación GDPR (Reglamento general de protección de datos).

También desea estar actualizado sobre las normas de privacidad de datos, que difieren según la región. Por ejemplo, cuando Meta lanzó recientemente su competidor de Twitter Threads, se le prohibió su lanzamiento en la UE debido a preocupaciones sobre la legalidad de sus prácticas de seguimiento de datos y elaboración de perfiles.

A medida que está forjando un camino completamente nuevo en un nicho emergente, es posible que también esté en condiciones de ayudar a formular regulaciones. A diferencia de los avances de las grandes tecnologías del pasado, organizaciones como la FTC se están moviendo mucho más rápidamente para investigar la seguridad de las plataformas de IA generativa.

Si bien es posible que no esté estrechando la mano de jefes de estado globales como Sam Altman, considere acercarse a políticos locales y miembros de comités para ofrecerles su experiencia y colaboración. Al demostrar su voluntad de crear barandillas, está indicando que sólo quiere lo mejor para aquellos a quienes pretende servir.

A falta de regulaciones oficiales, usted debería establecer sus propios puntos de referencia en materia de seguridad. Cree una hoja de ruta con hitos que considere prueba de confiabilidad. Esto puede incluir cosas como establecer un marco de garantía de calidad, lograr un cierto nivel de cifrado o ejecutar una serie de pruebas.