Është fundi i internetit siç e njohim ne

Anthropic njoftoi se modeli i saj më i ri i inteligjencës artificiale, Claude Mythos Preview, nuk do të publikohej, pasi kompania mësoi se ishte e aftë të gjente dhe shfrytëzonte dobësitë që nuk ishin zbuluar në sistemet kritike të softuerëve për dekada. Në vend të kësaj, Anthropic u dha akses në Mythos - dhe 100 milionë dollarë në kredi për ta përdorur atë - më shumë se 50 organizatave më të mëdha në botë, duke përfshirë Amazon, Apple, Microsoft, Google dhe JPMorgan Chase, si pjesë e një iniciative mbrojtëse të sigurisë kibernetike të quajtur Project Glasswing. Edhe para njoftimit, modelet e inteligjencës artificiale të disponueshme publikisht tashmë po gjenin dobësi sigurie në softuerët e përdorur zakonisht. Studiuesit e Anthropic pranuan se laboratorët e tjerë janë gjashtë deri në 18 muaj larg ndërtimit të diçkaje të krahasueshme. Këto aftësi, dhe kërcënimet që ato paraqesin për sigurinë kibernetike, do të shumohen. Nga platformat e transmetimit te shërbimet bankare online te motorët e kërkimit që u përgjigjen pyetjeve të përditshme, pjesë të gjera të internetit mund të bëhen të papërdorshme. Nëse nuk reagojmë me kujdes dhe vendosmëri, atëherë miliona njerëz që do të përfitojnë më shumë nga përparimi i IA-së si një mjet programimi do të jenë gjithashtu ata që janë më të ekspozuar ndaj sulmeve. Lënia e tyre në dorë të vetes mund të gërryejë internetin siç e njohim ne. Ju mund të jeni tashmë të njohur me konceptin e kodimit vibe: përdorimi i mjeteve të AI-së për të kthyer përshkrimet në gjuhë të thjeshtë në softuer funksional. Një pronar dyqani përshkruan sistemin e inventarit që i nevojitet dhe IA e krijon atë. Një dentist përshkruan një portal pacientësh dhe IA e ofron atë. Miliona njerëz që kurrë nuk e menduan veten si zhvillues softuerësh - pronarë biznesesh të vogla, klinicistë, drejtorë organizatash jofitimprurëse - po krijojnë softuer për herë të parë pa asnjë trajnim. Por këto aplikacione shpesh shkruhen pa shqyrtim sigurie. Të metat e mundshme, gjithnjë e më të lehta për t'u gjetur ndërsa IA përmirësohet, mund t'i lejojnë dikujt të hyjë në të dhënat e klientëve, të marrë përsipër llogaritë ose të mbyllë të gjithë aplikacionin. Për dekada të tëra, dy lloje mungesash e mbanin internetin të sigurt - ose mjaftueshëm të sigurt. Shkrimi i softuerëve ishte i vështirë, kështu që njerëzit që e bënin ishin të trajnuar, të kujdesshëm dhe të pakët. Gjetja e gabimeve ishte gjithashtu e vështirë, kështu që të metat më të këqija mbetën të fshehura, ndonjëherë për dekada të tëra. Nuk ishte një sistem i shkëlqyer. Por vështirësia nga të dyja palët krijoi një lloj zbutjeje që zgjati. Tani, falë mjeteve të reja të inteligjencës artificiale, kushdo mund të shkruajë kod. Së shpejti, aktorët e këqij mund të përdorin të njëjtat mjete për të zbuluar se çfarë nuk shkon me kodin. Detanta ka mbaruar. Pjesa më e madhe e internetit është ndërtuar nga softuer me burim të hapur. Për shembull, shumica e videove që transmetoni në internet shpërndahen në heshtje nga FFmpeg, një program falas me burim të hapur i mirëmbajtur nga vullnetarë, buxheti i kombinuar i të cilëve është modest sipas çdo standardi të korporatës. OpenBSD, një sistem operativ që drejton firewall-et dhe portat që mbrojnë rrjetet e ndjeshme nga sulmet e jashtme, dhe të cilin Anthropic e quan "një nga sistemet operative më të forta në botë për sigurinë", funksionon me donacione. Ndryshe nga softueri pronësor i zhvilluar nga firmat e mëdha në Projektin Glasswing, këto projekte ekzistojnë sepse dikush vendosi që puna kishte më shumë rëndësi sesa paga. Ato janë ndërtuar nga njerëz që kanë dhënë vite të tëra të jetës së tyre për të koduar që fuqizon produktet që shumica prej nesh i përdorim çdo ditë pa e ditur. Sipas Anthropic, Mythos gjeti një dobësi 27-vjeçare në OpenBSD dhe një dobësi 16-vjeçare në FFmpeg, të fshehur në një rresht kodi që, thotë Anthropic, mjete të tjera të automatizuara të sigurisë e kishin anashkaluar mbi pesë milionë herë. (Të dy organizatat thonë se i kanë rregulluar problemet e identifikuara.) Edhe Firefox, shfletuesi i internetit që ndërton organizata ime, nuk u kursye: Kur Anthropic ekzekutoi modelin e tij të mëparshëm kundër Firefox, ishte në gjendje të përdorte një gabim të zbuluar tashmë vetëm dy herë nga disa qindra përpjekje. Kur Anthropic ekzekutoi Mythos, pati sukses pothuajse çdo herë. Në të gjitha këto projekte dhe shumë të tjera, modeli identifikoi mijëra dobësi në kod. Këto janë llojet e problemeve që mund të lejojnë që ransomware të mbyllë spitalet. Ato janë mënyra se si sulmet kibernetike mund të prishin infrastrukturën kritike. Dhe ato janë mënyra se si shërbimet e inteligjencës së huaj mund të kompromentojnë rrjetet qeveritare. Përtej zbulimit të problemeve në rreshtat e kodit, Mythos gjeti çarje në kontratën sociale informale që mban internetin të bashkuar. Prej kohësh është kuptuar që zhvilluesit do ta ndanin punën e tyre hapur, do të ndihmonin njëri-tjetrin të rregullonin atë që është prishur dhe do të mirëmbanin softuerin nga i cili të gjithë varemi — jo për pagesë, por sepse kështu ka funksionuar komuniteti. Programuesja veterane, e cila ka riparuar kodin kritik për 20 vjet në kohën e tij të lirë, është në të njëjtën pozicion si pronarja e dyqanit që krijoi kodin e saj të parë të martën e kaluar. Të dy janë të ekspozuar. Asnjëri nuk ka një ekip sigurie. Asnjëri aktualisht nuk ka qasje në Mythos. Për nder të saj, Anthropic është ndër kompanitë e para të mëdha të inteligjencës artificiale që vendosi se gjëja e përgjegjshme ishte të ngadalësonte. Kompania thotë se po i kushton 4 milionë dollarë organizatave të sigurisë me burim të hapur. Kjo është më shumë se çdokush tjetër në këtë industri. E megjithatë, ekonomia themelore nuk ka ndryshuar; infrastruktura më e vlefshme e softuerit në botë vazhdon të mirëmbahet nga njerëz që punojnë falas, ndërsa kompanitë që ndërtojnë pasuri mbi të nuk kanë pasur kurrë nevojë të paguajnë për mirëmbajtjen e saj. Tani ka mbërritur një aftësi e re e fuqishme - dhe siç e kemi parë vazhdimisht në teknologji, ekziston rreziku që organizatat me burime ta marrin atë të parat dhe të mësojnë të mbrojnë veten, ndërsa të tjerat mbeten të cenueshme. Programuesi që dha 20 vjet të jetës së tij për të mirëmbajtur kodin që funksionon brenda produkteve të përdorura nga miliarda njerëz? Ai nuk ka ende qasje në Mythos. Ai duhet. Organizatat që menaxhojnë infrastrukturën me burim të hapur e dinë se kush janë këta mirëmbajtës dhe si t'i kontaktojnë ata, dhe janë të gatshme të ndihmojnë. Kjo është një listë e shkurtër dhe një problem i zgjidhshëm. Pronari i dyqanit është ndryshe. Ajo nuk duhet të ketë nevojë për Mythos ose një mjet po aq të fuqishëm për të mbrojtur veten nga një sulm kibernetik, vetëm besimin se mjetet që përdori u ndërtuan për ta mbrojtur atë që nga fillimi. Pra, le ta ndryshojmë parazgjedhjen. Çdo kompani që dërgon kod me burim të hapur në produktet e saj - që është pjesa më e madhe e industrisë së teknologjisë - duhet të investojë në punëtorët thelbësorë që e mirëmbajnë atë. Kjo do të thotë financim, por gjithashtu do të thotë që firmat e IA-së kontribuojnë me kohë inxhinierike, ekspertizë sigurie dhe staf në projektet nga të cilat të gjithë varemi. Kompanitë e IA-së që po ndërtojnë mjete si Mythos, përtej Anthropic, duhet t'i vendosin ato në duart e këtyre punëtorëve. Dhe të gjithë ne që përfitojmë nga infrastruktura me burim të hapur duhet ta trajtojmë atë siç ka qenë gjithmonë: po aq kritike sa çdo rrugë, urë apo linjë energjie. Dhe për miliona krijues të rinj që ndërtojnë softuer për herë të parë, duhet ta bëjmë të lehtë për ta që të ndërtojnë në mënyrë të sigurt. Integroni sigurinë në mjetet që ata tashmë po përdorin. Sigurohuni që IA që shkruan kodin gjithashtu e mbron kodin. Jo si një shtesë dhe jo si një veçori premium, por si një veçori e paracaktuar. Detanta ka mbaruar. Të metat janë të dukshme. Krijuesit janë kudo. Pyetja e vetme është nëse i mbrojmë të gjithë — apo vetëm ata që mund ta përballojnë mbrojtjen e tyre. Botuar në New York Times, përkthyer nga Klankosova.tv. Autori i shkrimit është drejtori i teknologjisë në Mozilla.