AI röviden Az X, a korábban Twitter néven ismert mikroblogoldal a hétvégén bemutatta „első mesterséges intelligenciáját” a felhasználók egy kiválasztott csoportjának.

A termék volt először kötekedett Elon Musk korábbi vezérigazgatója és jelenlegi tulajdonosa, aki nem mondta el, hogy mi ez, vagy hogy pontosan mit csinált, de biztos volt benne, hogy „bizonyos szempontból” a legjobb a maga nemében.

„Holnap a @xAI kiadja első mesterséges intelligenciáját egy kiválasztott csoport számára. Néhány fontos szempontból ez a legjobb, ami jelenleg létezik” – mondta hencegett.

És amikor szombaton megjelent a hír, bejelentették, hogy testőrei elindították saját mesterséges intelligencia-modelljüket – Grok néven –, amelyet „lázadó sorozatként” jellemez. Az xAI szerint a modellt „a Galaxis útikalauz stopposoknak mintázták”, és azok számára, akik felismerik a nevet az internetes kultúrából, de nem ismerik az eredetét, Robert Heinlein alkotta meg 1961-es klasszikusának. Stranger egy furcsa földön ahol ez egy marsi nyelv szó volt, amely szó szerint azt jelentette, hogy „inni”, de átvitt értelemben mélyen megérteni.

„A Grok egyedülálló és alapvető előnye, hogy valós idejű tudással rendelkezik a világról a 𝕏 platformon keresztül. Választ fog adni olyan pikáns kérdésekre is, amelyeket a legtöbb más mesterséges intelligencia rendszer elutasít” – mondta a csapat, hozzátéve a figyelmeztetést: „A Grok még mindig nagyon korai béta termék – ez a legjobb, amit két hónapos képzéssel tehetünk –, ezért számíthatunk rá, hogy javulni fog. minden elmúló héttel gyorsan az Ön segítségével.”

Musk elmondta, hogy a valós idejű információs hírfolyamhoz való hozzáférés a Grokot egy gyorsan fejlődő platformmá teszi hatalmas potenciállal. De ezt valójában senki sem tudja ellenőrizni, mivel még nincs általános kiadásban, és kezdetben csak azok számára lesz elérhető, akik hajlandóak fizetni egy kék pipáért az oldalon.

Musknak híre van a határidők elmulasztásáról és a túlzott ígéretekről – például már így is van öt év késéssel fizető utasok Holdra szállításának céljáról. Meglátjuk, hogyan működik ez az állítólagos AI-rendszer… talán.

Az emberek jobban tudnak adathalász támadásokat kitalálni, mint a mesterséges intelligencia

Az IBM biztonsági csapata által végzett kísérletek szerint a nagy nyelvű modellek gyorsabban tudnak adathalász e-maileket készíteni, mint az emberek, de írásuk kevésbé meggyőző, mint a jómódú social engineering.

A Big Blue vezető hackere, Stephanie Carruthers leírta, hogy a ChatGPT öt perc alatt képes hamis adathalász üzeneteket előállítani, szemben a szokásos 16 órával, amely a csapatának a tökéletes e-mail elkészítéséhez szükséges. Az MI-vel ellentétben az emberek általában időt szakítanak arra, hogy egy adott területet vagy áldozattípust kutassanak, amelyet megcéloznak.

Az IBM kutatói például kísérletük során egy egészségügyi vállalat több mint 800 alkalmazottjának küldték ki a mesterséges intelligencia és az ember által készített adathalász e-maileket, és összehasonlították az eredményeket. A ChatGPT által írt üzeneteket gyakrabban jelölték meg gyanúsnak, mint az emberi csapat által írottakat.

Carruthers szerint a mesterséges intelligencia kevésbé hatékony a szociális tervezésben, mint az emberek, mert hiányzik belőlük az áldozatok manipulálásához szükséges érzelmi megértés. A gépek nem tudnak személyre szabott üzeneteket létrehozni, írásuk pedig általános – vagyis az emberek észrevehetik azokat az árulkodó jeleket, amelyek arra utalnak, hogy egy adathalász támadás hamisnak tűnik.

„Lehet, hogy az emberek kis híján megnyerték ezt a meccset, de az AI folyamatosan fejlődik. A technológia fejlődésével csak arra számíthatunk, hogy a mesterséges intelligencia kifinomultabb lesz, és egy napon akár az embert is felülmúlja” mondott. 

Az AI-cégek beleegyeznek a modellek kormányzati tesztelésébe a kiadás előtt

A vezető mesterséges intelligencia vállalatok – köztük az OpenAI, a Google DeepMind, az Anthropic, az Amazon és a Microsoft – megállapodást írtak alá, amely lehetővé teszi az Egyesült Királyság, az Egyesült Államok és Szingapúr kormányai számára, hogy teszteljék rendszereiket a biztonsági kockázatok szempontjából.

A megállapodást az Egyesült Királyság mesterséges intelligencia-csúcstalálkozóján írták alá, amelyet Rishi Sunak miniszterelnök vezetett. A vezetők szerte a világon megpróbálják egyensúlyba hozni a technológia szabályozását oly módon, hogy lehetővé tegye az innováció virágzását, de fenntartsák a biztosítékokat. Bár elismerik a mesterséges intelligencia gazdasági előnyeit, sokan aggódnak amiatt, hogy dezinformáció generálására, a nemzetbiztonság veszélyeztetésére vagy a munkaerőpiac megzavarására használják fel.

A tisztviselők most arra biztatják a legerősebb rendszerek fejlesztőit, hogy vizsgálják felül modelljeikat, mielőtt a valós világban bevezetnék őket.

„Úgy gondolom, hogy a csúcstalálkozó eredményei az emberiség javára billentik az egyensúlyt” – mondta Sunak. szerint hoz Financial Times. "Együtt fogunk dolgozni az új AI-modellek biztonságának tesztelésén, mielőtt megjelennek."

De az, hogy a megállapodást aláíró fejlesztők valóban betartják-e a választ, válasz nélkül, mivel a szerződés jogilag nem kötelező. Az sem világos, hogy a kormányok pontosan hogyan tervezik az AI modelljeik tesztelését. 

A hírtartalom nagy mennyiségű adatkészletet tartalmaz az AI chatbotok képzéséhez

A News Media Alliance kiadói kereskedelmi csoport megállapította, hogy a mesterséges intelligencia chatbotjai főként médiacikkekre vannak kiképezve, és képesek a szerzői jog által védett tartalmak reprodukálására a héten közzétett jelentés szerint.

A több mint 2,200 kiadót képviselő csoport az Egyesült Államokban és Kanadában, talált [PDF], amely szerint az olyan betanító adatkészletek, mint a C4, OpenWebText és OpenWebText2, gyakran nagy nyelvi modellek betanításához használtak, többnyire médiából kimásolt szöveget tartalmaznak.

Bár a szoftvert fejlesztő cégek azt akarják, hogy csevegőrobotjaik tényeket gyűjtsenek ki, végül egy riporter írását utánzó szöveget is visszatorlaszolnak. A News Media Alliance úgy véli, hogy ez sérti a kiadók szerzői joggal védett anyagait, az Egyesült Államok Szerzői Jogi Hivatalához benyújtott megjegyzések szerint.

Sürgette a mesterséges intelligencia készítőket, hogy szerezzenek „megfelelő engedélyt”, és adjanak ki „kiadóknak fizetett kártérítést” védett műveik használatáért. Hatékony betartatás, szabályozás és szabványok nélkül – beleértve azt a követelményt is, hogy a mesterséges intelligencia fejlesztői engedélyt kérjenek a jogtulajdonosoktól védett tartalmuk versenyképes termékek betanítására való felhasználásához – az AI jelentős károkhoz vezethet.”

„Ezek a károk magukban foglalhatják demokráciánk alapjainak aláásását az újságok, magazinok és digitális – különösen a helyi – médiák további gyengülése vagy teljes bezárása révén, a félretájékoztatás és a félretájékoztatás terjedése, valamint a jelentésekhez való hozzáférés csökkentése, amely alapvetően csak emberek hozták létre – kiterjedt ténygyűjtés, interjúk és ítéletek alapján” – állítja a csoport válasz [PDF]. ®

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://go.theregister.com/feed/www.theregister.com/2023/11/06/ai_in_brief/