מנהיג DARPA חשף שכ-70 אחוז מהתוכניות של הסוכנות הממשלתית בארה"ב כרוכים בבינה מלאכותית בצורה או צורה כלשהי, ולפרויקטים הללו עשויות להיות השלכות רציניות על עתיד העבודות בפיתוח תוכנה.
בנאום באירוע של המרכז למחקרים אסטרטגיים ובינלאומיים בשבוע שעבר, ד"ר מאט טורק, סגן מנהל משרד החדשנות במידע של DARPA (I2O), דיבר על מגוון רחב של פרויקטים של בינה מלאכותית ש-DARPA עובדת עליהם ועל הדומיננטיות הגורפת של טכנולוגיה זו בתוך הסוכנות. כַּיוֹם.
"יש חדירה ממש רחבה ברחבי הסוכנות", טורק אמר. "מנקודת מבט של I2O אנחנו באמת מחפשים לנסות ולהתקדם, אתה יודע, איך נגיע לבינה מלאכותית מאוד מהימנה - בינה מלאכותית שאנחנו יכולים להמר עליה את חיינו - ושזה לא דבר טיפשי לעשות."
ל-I2O יש כרגע ארבעה תנועות מחקר: AI מיומן; מערכות גמישות, ניתנות להתאמה ובטוחות; יתרון בפעולות סייבר; ואמון בתחום המידע. רק אחד מארבעת הדחפים האלה מזכיר ישירות AI, אבל זה לא אומר שהוא לא מעורב בכולם.
"יש הרבה סינרגיות בין אזורי הדחף האלה", הצהיר טורק. "יש לנו מאמצים הממזגים גם את קידום הבינה המלאכותית וגם את מצב היכולת בסייבר... אני חושב שכדאי לומר שבינה מלאכותית ואוטונומיה נמצאים בשימוש נרחב בכל הסוכנות כעת."
בעוד שרבים מפרויקטי הבינה המלאכותית ב-DARPA מתמקדים כיצד הטכנולוגיה יכולה להועיל למשרד ההגנה, זה כמעט לא תחום ההתמקדות היחיד, וגם I2O לא מגביל את המחקר שלה להקדים את יריבי הצבא של ארה"ב.
"לא רק ממשלת ארה"ב צריכה לקבל את היכולות האלה. משטח ההתקפה רחב", אמר טורק.
תוך ציון החשיבות של תעשיות מסחריות כמו מחקר מדעי, תשתית קריטית ואפילו מסחר מקוון לביטחון הלאומי, אמר טורק ש-I2O רוצה "ליצור תעשייה מסחרית במרחב הזה" באמצעות המחקר שלה.
אחת הדרכים המרכזיות לעשות זאת, לדברי טורק, היא פיתוח בינה מלאכותית שיכולה לא רק לכתוב קוד, אלא לעשות זאת בצורה מאובטחת ו"נכונה להוכחה". כולנו יודעים שללימודי LLM של היום יש הרגל ממציא קוד רע או לא מאובטח.
"יש מקרי שימוש מעניינים באמת שהתעשייה המסחרית שלנו רודפת כעת סביב השימוש ב-LLMs כדי לעזור בתהליך יצירת הקוד", אמר טורק. "אבל מה אם נוכל לגרום לכך שהם יפיקו לא רק קוד מהר יותר, אלא קוד מאובטח?"
"זה יאפשר לנו להרחיב, אתה יודע, תהליכי פיתוח תוכנה חזקים ומאובטחים," אמר טורק, וציין שזה רעיון קריטי עבור משרד ההגנה, אבל תחום מושג, לא תחום השקעה ממשי - עדיין.
בעוד שבינה מלאכותית עדיין לא כותבת קוד מאובטח עבור DARPA או תעשיות מסחריות, הסוכנות מחפשת פתרונות שיפנו אותה לבחינת תוכנות קיימות לאיתור נקודות תורפה. היוזמה הזו, אתגר ה-AI Cyber, הייתה דנו בשנה שעברה ב-Black Hat, וטורק הזכיר את זה גם בשבוע שעבר, ואמר שהוא מחפש נקודות תורפה בתוכנת תשתית קריטית פרויקטים של קוד פתוח.
עם זאת, מפתחים אינם הקטגוריה היחידה של אנשי מקצוע טכנולוגיים שיוזמות ה-AI של DARPA עלולות לסכן. במהלך הרצאתו, טורק הזכיר גם את תוכנית CASTLE, יוזמת I2O להכשיר סוכני AI אוטונומיים לטפל באבטחת רשת. בקצה החיצוני של התוכנית, טורק אמר שסוכני בינה מלאכותית של CASTLE יוכלו באופן אידיאלי למנוע את הצורך לבנות מחדש רשתות במהלך פשרה של APT, שלעתים קרובות הוא ציין שגורמת לצורך "להתחיל מאפס ולבנות מחדש".
"CASTLE באמת מתמקדת בניסיון לבנות סוגים כאלה של סוכני הגנה אוטומטיים, ששוב יכולים לשמר רמה מסוימת של פונקציות קריטיות ברשת", אמר טורק.
עוד תוכנית, מוכיחים, מבקשת להשתמש בבינה מלאכותית כדי להנחות את פיתוח התוכנה לקראת פיתוח מערכות "ידידותיות להוכחה".
כל זה מסתמך על פיתוח בינה מלאכותית שבעצמה מובנת בתהליכים שלה - משהו שטורק מודה שעדיין לא ממש שם.
"גישות למידת מכונה סטטיסטיות מודרניות הן לעתים קרובות אטומות ואינן ניתנות להסתכלות פנימית", אמר טורק. "אני עדיין מרגיש שיש הרבה עבודה שצריך לעשות."
אז אל תדאג לגבי AI שייקח את עבודת פיתוח התוכנה שלך עדיין - ראינו המון דוגמאות של בינה מלאכותית שמפתחת קוד עלוב, אבל זה לא אומר שהטכנולוגיה לא תהיה משוכנת על מפתחים בכל מקרה. שֶׁלָה רק עניין של זמן. ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2024/04/02/ai_dominates_at_darpa_and/
