استارت‌آپ امنیتی Knostic آخرین شرکتی است که با چالش‌های مختلفی که سازمان‌ها با استفاده از ابزارهای هوش مصنوعی مولد (AI) با آن مواجه هستند، مقابله می‌کند. این هفته Knostic از مخفی کاری با 3.3 میلیون دلار بودجه اولیه بیرون آمد تا کنترل‌های دسترسی «نیاز به دانستن» را به مدل‌های زبان بزرگ (LLM) بیاورد.

گادی اورون، یکی از بنیانگذاران و مدیر عامل شرکت می گوید: شرکت ها در سفر تحول هوش مصنوعی خود، قابلیت های هوش مصنوعی را در سراسر گردش کار و فرآیندهای خود به منظور افزایش بهره وری، کاهش هزینه ها و افزایش بهره وری به کار می برند. کنوستیک. شرکت‌ها در حال استفاده از LLM برای ساختن سیستم‌های جستجوی سازمانی ChatGPT-مانند بر اساس منابع داده خودشان یا با فعال کردن قابلیت‌هایی هستند که در برنامه‌ها و پلتفرم‌هایی که قبلاً از آنها استفاده می‌کنند، جمع‌آوری شده‌اند. Evron می‌گوید حفظ حریم خصوصی داده‌ها یکی از بزرگترین موانع برای پذیرش هوش مصنوعی است و اشاره می‌کند که هوش مصنوعی بدون کنترل به طور بالقوه سازمان را در معرض خطر بیشتری قرار می‌دهد، در درجه اول با افشای اطلاعات در معرض افراد اشتباه.

«چگونه می‌توانیم اطلاعات شخصی‌سازی‌شده را تنظیم کنیم و در واقع به شما ارزش بدهیم - به جای گفتن مطالب، با آنچه باید بدانید پاسخ دهید؟» اورون می گوید.

کنترل دسترسی برای LLM ضروری است

با Knostic، کارمندان می توانند به آنچه نیاز دارند دسترسی داشته باشند و پاسخ هایی را دریافت کنند که با اطلاعاتی که برای انجام کارهای خود نیاز دارند، هماهنگ باشد.

به عنوان مثال، یک سازمان می‌تواند سیستمی داشته باشد که به سؤالاتی مانند ویژگی‌های مورد انتظار در عرضه محصول بعدی، آخرین اعداد فروش و ارقام درآمد، ساختار پاداش، نتایج بررسی دقیق در سناریوی ادغام و اکتساب یا وضعیت یک محصول پاسخ دهد. پروژه زیرساختی اما همه نباید برای هر سوالی پاسخ یکسانی دریافت کنند. Evron خاطرنشان می کند، در حالی که مدیر مالی و مدیر ارشد فناوری باید از درآمد فروش سه ماهه بدانند، کارآموز بازاریابی احتمالاً این را نمی داند.

موتور کنترل دسترسی Knostic بررسی می کند که آیا پاسخ برای نقش پرسشگر مناسب است یا خیر. اگر اینطور نباشد، اورون می گوید: "متاسفم، این اطلاعات محرمانه است." یا به جای نه گفتن، سیستم می تواند پاسخ دهد که حتی اگر پاسخ محرمانه است، کمپین های بازاریابی که کارآموز روی آنها کار کرده است، فروش را در طول سه ماهه افزایش داده است. اینجاست که شخصی‌سازی و سرپرستی وارد می‌شود.

Evron تاکید کرد که کنترل دسترسی باینری است - یا شخص می تواند دسترسی داشته باشد یا نمی تواند. تمرکز Knostic بر "نیاز به دانستن" این امکان را فراهم می کند تا برخی از اطلاعات را حتی زمانی که پاسخ منفی است ارائه دهد.

Evron می گوید: «وقتی ما نه می گوییم، کسب و کار را فعال نمی کنیم. هنگامی که متوجه شدید که مجاز به دانستن چه چیزی هستید، می توانید DLP [پیشگیری از دست دادن داده ها] و IAM [مدیریت دسترسی هویت] را حل کنید.

"نیاز به دانستن" به نظر می رسد

سونیل یو، یکی از همکاران Knostic می گوید، هنگام فکر کردن به کنترل دسترسی، سازمان ها باید عواملی مانند داخلی یا عمومی بودن سیستم، حساس بودن داده های مورد استفاده برای تولید پاسخ ها و نقش شخصی که سؤالات را می پرسد در نظر بگیرند. موسس و CTO

بحث‌های زیادی در مورد اینکه چگونه سازمان‌ها باید نرده‌هایی را در سیستم‌های هوش مصنوعی بسازند تا از سوءاستفاده جلوگیری کنند و پاسخ‌هایی که می‌تواند باعث آسیب شود ارائه نکنند، وجود دارد. یو می‌گوید، با این حال، این رویکرد برای همه یکسان است و شرایط خاص یک فرد را در نظر نمی‌گیرد. در نظر بگیرید که چه تعداد از ربات‌های گفتگوی عمومی در دسترس نمی‌توانند اطلاعات پزشکی را ارائه دهند، زیرا آنها متخصص پزشکی نیستند و نباید برای تشخیص استفاده شوند. اما اگر پزشک در تلاش برای دسترسی به اطلاعات به عنوان بخشی از یک تحقیق باشد، آن محدودیت خاص مفید نیست. کنترل دسترسی، بر خلاف حفاظ ها، عواملی مانند زمان، حساسیت داده ها و نقش شخص را برای تعیین نحوه شکل دادن به پاسخ ها در نظر می گیرد.

به عنوان مثال، یک شرکت ممکن است یک ربات چت خدمات مشتری داشته باشد که عیب یابی می کند و به رفع مشکلات رایج کمک می کند. آن ربات چت به همان مقالات پایگاه دانش داخلی که نماینده خدمات مشتری خواهد داشت دسترسی خواهد داشت. اما اگر اطلاعاتی در مورد محصولی وجود داشته باشد که هنوز در بازار موجود نیست چه اتفاقی می افتد؟ نماینده خدمات مشتری به آن اطلاعات نیاز دارد تا زمانی که محصول در دسترس است و حتی از قبل برای اهداف آموزشی آماده باشد. اما اگر مشتری قبل از راه اندازی جزئیات محصول را از چت بات یاد بگیرد، ممکن است مشکلات زیادی برای آن شرکت ایجاد شود.

به جای ایجاد دو سیستم - یکی برای استفاده داخلی و دیگری برای عموم - این شرکت می تواند از رویکرد Knostic برای ارائه پاسخ های متفاوت به مشتری و نماینده خدمات مشتری استفاده کند.

اطلاعات شرکت

Evron و Yu دارای تخصص عمیق در صنعت هستند. Evron شرکت فریب سایبری Cymmetria را تأسیس کرد و قبلاً در Citibank و PwC نقش داشته است. یو دانشمند ارشد سابق امنیت بانک آمریکا و CISO سابق و رئیس تحقیقات JupiterOne است.

Knostic که در سال 2023 تأسیس شد، 3.3 میلیون دلار سرمایه اولیه از Shield Capital، Pitango First، DNS Ventures، Seedcamp و چندین سرمایه گذار فرشته جمع آوری کرده است. دریاسالار بازنشسته مایک راجرز، رئیس سابق آژانس امنیت ملی و یکی از اعضای هیئت مشاور Knostic، در بیانیه ای گفت که این استارتاپ "قفل LLM را برای شرکت ها باز می کند."

Knostic در طیف وسیعی از صنایع از جمله خرده فروشی و خدمات مالی مشتریان دارد. همچنین یکی از سه فینالیست برتر برای سکوی پرتاب کنفرانس RSA 2024، جایی که بنیانگذاران شرکت هایی که به مدت دو سال یا کمتر ثبت شده اند، می توانند ایده ها و محصولات را «در آستانه تبدیل شدن به چیز بزرگ بعدی» به هیئتی از سرمایه گذاران خطرپذیر ارائه دهند. سکوی پرتاب امسال در روز سه شنبه، 7 می خواهد بود.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://www.darkreading.com/data-privacy/knostic-brings-access-control-to-llms