La startup de seguridad Knostic es la última empresa en abordar los diversos desafíos que enfrentan las organizaciones al adoptar herramientas de inteligencia artificial (IA) generativa. Esta semana, Knostic surgió del sigilo con 3.3 millones de dólares en financiación inicial para llevar controles de acceso "necesarios de saber" a grandes modelos de lenguaje (LLM).

Las empresas en su viaje de transformación de la IA están implementando capacidades de IA en sus flujos de trabajo y procesos para aumentar la productividad, reducir los costos y aumentar la eficiencia, dice Gadi Evron, cofundador y director ejecutivo de Knóstico. Las empresas están adoptando LLM para crear sistemas de búsqueda empresarial similares a ChatGPT basados ​​en sus propias fuentes de datos o habilitando capacidades integradas en las aplicaciones y plataformas que ya están utilizando. La privacidad de los datos es una de las mayores barreras para la adopción de la IA, afirma Evron, señalando que la IA sin controles expone potencialmente a la organización a un mayor riesgo, principalmente al exponer la información a las personas equivocadas.

"¿Cómo podemos seleccionar información personalizada y realmente brindarle valor: responder con lo que necesita saber en lugar de simplemente decir cosas?" dice Evron.

El control de acceso para los LLM es necesario

Con Knostic, los empleados pueden acceder a lo que necesitan y recibir respuestas que se alineen con la información que necesitan para realizar su trabajo.

Por ejemplo, una organización puede tener un sistema que responda preguntas como las características esperadas en el próximo lanzamiento del producto, las cifras de ventas e ingresos más recientes, la estructura de las bonificaciones, los resultados de la debida diligencia en un escenario de fusión y adquisición, o el estado de una empresa. proyecto de infraestructura. Pero no todo el mundo debería obtener la misma respuesta a todas las preguntas. Mientras que el CFO y el CTO necesitan conocer los ingresos por ventas trimestrales, el pasante de marketing probablemente no, señala Evron.

El motor de control de acceso de Knostic considera si la respuesta es apropiada para el rol del interrogador; si no es así, responde: "Lo siento, es información confidencial", dice Evron. O en lugar de simplemente decir que no, el sistema puede responder que, aunque la respuesta es confidencial, las campañas de marketing en las que trabajó el pasante impulsaron las ventas durante el trimestre. Ahí es donde entra en juego la personalización y la curación.

Evron se propuso enfatizar que el control de acceso es binario: o la persona puede tener acceso o no. El enfoque de Knostic en la “necesidad de saber” hace posible proporcionar cierta información incluso cuando la respuesta es no.

"Cuando decimos que no, no estamos habilitando el negocio", afirma Evron, señalando que proporcionar información en un formato diferente o en un contexto relacionado ayuda a los usuarios empresariales más que simplemente que les digan que no. "Una vez que descubras lo que puedes saber, podrás resolver DLP [prevención de pérdida de datos] e IAM [gestión de acceso a identidades".

Cómo se ve la 'necesidad de saber'

Al pensar en el control de acceso, las organizaciones deben considerar factores como si el sistema es interno o público, si los datos utilizados para generar respuestas son confidenciales y el papel de la persona que hace las preguntas, dice Sounil Yu, coautor de Knostic. fundador y director de tecnología.

Se ha debatido mucho sobre cómo las organizaciones deben incorporar barreras de seguridad en los sistemas de inteligencia artificial para evitar abusos y no brindar respuestas que puedan causar daño. Sin embargo, este enfoque tiende a ser igual para todos y no tiene en cuenta las circunstancias específicas de una persona, dice Yu. Consideremos cuántos chatbots disponibles públicamente no proporcionarían información médica porque no son profesionales médicos y no deberían usarse para diagnósticos. Pero si se trata de un médico que intenta acceder a información como parte de una investigación, esa restricción en particular no es útil. El control de acceso, a diferencia de las barreras de seguridad, tiene en cuenta factores como el tiempo, la sensibilidad de los datos y el papel de la persona para determinar cómo dar forma a las respuestas.

Por ejemplo, una empresa puede tener un chatbot de servicio al cliente que soluciona problemas y ayuda a solucionar problemas comunes. Ese chatbot tendrá acceso a los mismos artículos de la base de conocimientos interna que tendría el representante de servicio al cliente. Pero ¿qué pasa si hay información sobre un producto que aún no está disponible en el mercado? El representante de servicio al cliente necesita que esa información esté lista cuando el producto esté disponible e incluso antes con fines de capacitación. Pero podría haber muchos problemas para esa empresa si el cliente conoce los detalles sobre el producto a través del chatbot antes del lanzamiento.

En lugar de crear dos sistemas (uno para uso interno y otro para uso público), la empresa posiblemente pueda utilizar el enfoque de Knostic para proporcionar respuestas diferentes al cliente y al representante de servicio al cliente.

Datos de la empresa

Evron y Yu tienen una profunda experiencia en la industria. Evron fundó la empresa de engaño cibernético Cymmetria y anteriormente ocupó cargos en Citibank y PwC. Yu es el ex científico jefe de seguridad del Bank of America y ex CISO y jefe de investigación de JupiterOne.

Knostic, fundada en 2023, ha recaudado 3.3 millones de dólares en financiación previa a la semilla de Shield Capital, Pitango First, DNS Ventures, Seedcamp y varios inversores ángeles. El almirante retirado Mike Rogers, exjefe de la Agencia de Seguridad Nacional y miembro del consejo asesor de Knostic, dijo en un comunicado que la startup "desbloqueará los LLM para empresas".

Knostic tiene clientes en una variedad de industrias, incluidos el comercio minorista y los servicios financieros. También es uno de los tres primeros finalistas del Plataforma de lanzamiento de la conferencia RSA 2024, donde los fundadores de empresas constituidas durante dos años o menos pueden presentar ideas y productos "a punto de ser la próxima gran novedad" a un panel de capitalistas de riesgo. La plataforma de lanzamiento de este año será el martes 7 de mayo.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://www.darkreading.com/data-privacy/knostic-brings-access-control-to-llms