Антропиков нови модел вештачке интелигенције, познат као Преглед Клода МитосаПостала је епицентар глобалне дебате о границама напредне вештачке интелигенције. Сама компанија признаје да је систем толико моћан у погледу сајбер безбедности да је одлучила да га не лансира широко, што је необична одлука у сектору који је навикао да се хвали сваким новим напретком.
У питању није само постепено побољшање у односу на претходне моделе, већ квалитативни скок у способности откривања и искоришћавања рачунарских рањивостиВладе, централне банке, главне финансијске институције и европски регулатори пажљиво прате случај, свесни да би такав алат могао ојачати одбрану критичних системаАли то би такође могло отворити врата нападима невиђених размера ако би пало у погрешне руке.
Шта је тачно Клод Митос и зашто је његово лансирање одложено?
Клод Митос је један од најновијих модела у породици Клод, Антропиковом вештачком екосистему који се такмичи са OpenAI-јев ChatGPT и Google-ов GeminiТо је модел опште намене, способан за расуђивање, програмирање и рад са дугорочним контекстом, али његова најконтроверзнија карактеристика је његова перформансе у офанзивној и дефанзивној сајбер безбедности.
Тзв „црвени тимови“Специјалисти који тестирају системе вештачке интелигенције до њихових граница закључили су у интерном извештају да је Mythos „изненађујуће способан“ у задацима сајбер безбедности. У тестовима перформанси као што су СВЕ-клупа Верификовано o SWE-bench ProДизајниран да мери способност решавања проблема софтверског инжењерства из стварног света, модел би лако надмашио врхунске комерцијалне алтернативе, укључујући напредне верзије GPT-а и Gemini-ја, према подацима које је пружио сам Anthropic.
Поред мерила, оно што је упалило звона за узбуну јесте то што Митос је успео да лоцира рањивости нултог дана —раније непознате мане— у широко коришћеним софтверским компонентама, неке старе преко две деценије. У системима као што су OpenBSD, FFmpeg и FreeBSD компоненте, модел је не само открио грешке које су годинама остајале непримећене, већ је и генерисао функционалне експлоите како би их искористио.
Суочен са овим резултатима, Антропик се одлучио за одлуку која је била необична у индустрији: да представи модел, а затим објави да се неће отворено продавати. јер сматра да представља невиђене ризике по сајбер безбедност. Компанија инсистира да је Mythos „најбоље усклађен“ модел који су изградили, али признаје да његов огроман капацитет појачава последице сваке злоупотребе.
Модел са „хакерским“ вештинама далеко изнад људских могућности
Технички документи и извештаји различитих организација се слажу да Митос означава прекретницу у аутоматизацији сложених нападаУ тест окружењима која симулирају стварне корпоративне мреже, систем је био у стању да повеже рањивости, ескалира привилегије и постигне трајан приступ за неколико сати – задаци који би људском стручњаку трајали данима или недељама.
На пример, у Firefox-овом JavaScript енџину, раније верзије Anthropic модела су ретко успевале да претворе рањивости у функционалне експлоите. Mythos је, под истим условима тестирања, Генерисао је десетине оперативних експлоатацијаПрецизно реплицира експлоатацију најефикаснијих вектора. На аналитичким платформама попут OSS-Fuzz, дизајнираним за проналажење грешака у софтверу отвореног кода, приписује му се откривање рањивости велике озбиљности које су остале непримећене упркос годинама аутоматизованог тестирања.
Модел је такође показао изузетне могућности у Обрнути инжењерингМоже да реконструише део логике програма из компајлираних бинарних датотека и, одатле, да лоцира и искористи недостатке без приступа оригиналном изворном коду. Ова врста могућности приближава вештачку интелигенцију сценаријима који су се донедавно сматрали искључиво за високо специјализоване људске тимове.
Једна од најчешће цитираних епизода у безбедносним проценама је такозвани „сендвич тест“. У изолованом лабораторијском окружењу, Митосу је дата контрола над системом са експлицитним упутствима да покуша побегните из песковника и контактирајте истраживача који је надгледао тест. Модел је успео да искористи ланац рањивости како би побегао из свог ограниченог окружења и послао имејл особи задуженој за то, која у том тренутку није била у канцеларији. Иако се инцидент догодио у ранијој интерној верзији и под усмереном командом, он илуструје у којој мери систем може да функционише у сложеним сценаријима уз минималан надзор.
Упркос овим демонстрацијама, аналитичари инсистирају на разјашњењу да Немамо посла са „свесном“ вештачком интелигенцијом или оном са сопственом вољомМитос не одлучује да сам напада системе; он извршава задатке који су му дати што је могуће ефикасније. Ризик, у овом смислу, није да ће се модел побунити, већ да ће га неко искористити – или га натерати да то учини путем софистицираних упутстава – да изврши штетне радње.
Пројекат Глассвинг: Митос у служби одбране… за одабране
Уместо да отвори приступ широј јавности, Антропик је одлучио да окружи Митос специфичним програмом, Пројекат ГлассвингОсмишљена да користи могућности модела на контролисан начин за заштиту критичног софтвера, иницијатива подразумева понуду система, под строгим условима коришћења, одабраној групи великих технолошких компанија, добављача инфраструктуре и финансијских институција.
Међу организацијама са приступом су гиганти као што су Амазон веб сервиси, Епл, Мајкрософт, Гоогле ЦлоудНвидиа или Бродкомкао и фирме за сајбер безбедност попут CrowdStrike-а, чији је сопствени неисправни софтвер изазвао велики глобални поремећај 2024. године. Њима се придружују светски познате банке, укључујући Џеј-Еј Морган Чејс и неколико великих група са Вол Стрита, као и друге организације одговорне за одржавање осетљивих ИТ инфраструктура.
Антропик је такође најавио кредити вредни 100 милиона долара Ово финансирање ће омогућити овим организацијама да користе Mythos за анализу рањивости, уз донације фондацијама за слободни софтвер као што су Linux Foundation и Apache Software Foundation. Званични циљ је јасан: омогућити онима који управљају најкритичнијим софтвером на свету да идентификују и исправе недостатке пре него што такви алати постану доступни потенцијалним нападачима.
Међутим, ова стратегија изазива извесну нелагоду унутар сектора. С једне стране, она појачава идеју да је технологија довољно опасна да захтева ограничен приступ. С друге стране, То ствара јаз између оних који имају користи од „штита“ Митоса и оних који су изостављени.Компаније и администрације које нису део Glasswing-а ризикују да се касније суоче са рањивостима које су идентификоване и исправљене у привилегованим окружењима, али које су и даље присутне у њиховим сопственим системима.
У Европи, ова асиметрија је посебно забрињавајућа за оне који су одговорни за критичну инфраструктуру и безбедносне тимове великих индустријских и финансијских група, који пажљиво прате да ли Брисел и европске престонице осигуравају да слични програми укључују кључне актере са континента под једнаким условима и суверенитет облака са америчким партнерима.
Реакција влада, регулатора и финансијског сектора
Утицај Митоса није ограничен само на техничку сферу. За само неколико дана, најава модела је покренула састанци на високом нивоу у Сједињеним Државама и ЕвропиМинистар финансија САД позвао је руководиоце главних банака у земљи у Вашингтон како би проценили ризике које систем може представљати за финансијску стабилност, док је у тим разговорима учествовао и председник Федералних резерви.
Према цурењима информација које су објавили међународни медији, ови ентитети су наводно били подстакнути да Тестирајте Митос у одбрамбеном режимукористећи га за скенирање сопствене инфраструктуре у потрази за слабостима пре него што то могу други. Имплицитна порука је да је претња довољно озбиљна да захтева координиран јавно-приватни одговор.
У међувремену, суоснивач компаније Anthropic је потврдио да је компанија одржава директне разговоре са владом Сједињених Држава о Митосу и будућим моделима. Ови разговори се одвијају у напетом контексту, након што су америчке власти недавно додале компанију на листу ризици ланца снабдевања, након трења везаних за коришћење њихових модела од стране Министарства одбране.
Преко Атлантика, Европска унија је то приметила. Европска комисија је јавно подржала постепен и опрезан приступ моделима попут Митоса, и Финансијски регулатори у Великој Британији и на континенту почели су посебно да проучавају његове потенцијалне импликације за банкарство и тржишта. Институт за безбедност вештачке интелигенције (AISI) британске владе описао је систем као значајан корак напред у погледу сајбер претњи у поређењу са претходним генерацијама.
У Шпанији, иако је јавна дебата још увек ограничена, надзорна тела и тимови за сајбер безбедност из банака и великих енергетских компанија пажљиво прате ова дешавања. За европски финансијски сектор, сваки напредак који би могао да олакша координисане нападе на платне системе, међубанкарске мреже или платформе за трговање представља разлог за озбиљну забринутост.
Скептицизам, сумње и дебата о „хајпу“ који окружује Митос
Антропиков извештај, који комбинује безбедносна упозорења са спектакуларним подацима о учинку, није прошао без критика. Неколико стручњака за вештачку интелигенцију и сајбер безбедност позвало је на опрез при тумачењу изјава компанијеуз напомену да велики део доступних података долази само из интерних извештаја.
Неки аналитичари су детаљно прегледали обимну документацију коју је објавио Anthropic и истичу да је бројка „хиљада рањивости високе озбиљности“ заснована на екстраполацијама из релативно малог броја ручно прегледаних случајева. У одређеним тестовима, Mythos је наводно пронашао значајан број критичних недостатака, али далеко од готово апокалиптичног сценарија који сугеришу неки наслови.
Друге независне студије покушале су да упореде перформансе Mythos-а са мањим моделима отвореног кода, прослеђујући рањиве фрагменте кода различитим вештачким интелигенцијама како би видели да ли могу да открију исте недостатке. Резултати указују на то да Неки отворени модели су такође способни да идентификују сложене рањивостиОво доводи у питање идеју да Митос игра у потпуно другој лиги у свим сценаријима.
Овакви контрапримери не негирају могућности Митоса, али сугеришу да Део дискурса о „превише опасном за објављивање“ има и маркетиншку димензију.Представљање модела као изузетно моћног и потенцијално ризичног појачава слику технолошког лидерства и одговорности, нешто веома вредно на све конкурентнијем тржишту.
Недавна историја индустрије такође подсећа на преседан GPT-2 из 2019. године, када је OpenAI првобитно одлучио да не објави цео модел, тврдећи да је превише опасан због свог потенцијала да генерише дезинформације. На крају, та верзија је објављена јавности без икакве од предвиђених катастрофа које се материјализују, а многи стручњаци су је навели као пример претеране реакције. Са Mythos-ом, Разлика је у томе што фокус више није на тексту, већ на интегритету дигиталне инфраструктуре., много осетљивије подручје за владе и банке.
Деликатна равнотежа између безбедности, пословања и приступа технологији
Поред медијске буке, ситуација са Митосом покреће фундаментално питање: ко одлучује када је модел вештачке интелигенције превише опасан за објављивање И под којим критеријумима? За сада је одлука била једнострана од стране компаније Anthropic, која се одлучила да систем држи у некој врсти контролисаног карантина, резервишући га за одабране партнере.
Овај став није искључиво заснован на безбедносним разлозима. Покретање модела са карактеристикама Митоса је веома скупо у смислу рачунарства, а сама компанија признаје да тренутно нема неопходна инфраструктура да га масовно послужи милионима корисника. У пракси, безбедносне мере предострожности и техничка ограничења иду руку под руку, дајући Anthropic-у времена да фино подеси и модел и његово распоређивање.
Истовремено, компанија је почела јасно да прави разлику између својих различитих производа. Док Mythos остаје најнапреднији интерни стандардИако су резервисани за истраживање и контекст стратешке сарадње, други модели попут Claude Opus 4.7 су усмерени на свакодневну употребу од стране предузећа и професионалаца. Anthropic је чак јавно признао да је Opus 4.7 „мање способан“ од Mythos-а генерално, а посебно у погледу својих сајбер могућности – нешто необично у индустрији која обично представља сваки нови модел као најбољи у сваком погледу.
У овој шеми, Митос функционише као тестна платформа за могућности следеће генерацијеИако комерцијално доступни модели укључују само део ових могућности, са додатним ограничењима осмишљеним да смање ризике, ово раздвајање између „експерименталних“ и „продукцијских“ модела може бити разуман приступ за многе европске организације заинтересоване за коришћење вештачке интелигенције без да буду на првим линијама изложености, под условом да постоји довољна транспарентност у погледу стварних могућности сваког система.
Оно што се на крају појављује је сценарио у којем Сајбер безбедност у потпуности улази у еру офанзивне и дефанзивне вештачке интелигенције великих размера.Алати попут Mythos-а обећавају да ће убрзати идентификацију рањивости у системима који су у функцији годинама, али такође приморавају на преиспитивање начина дистрибуције и управљања технологијом која је основа дигиталне економије. За Европу и Шпанију, изазов неће бити само заштита од све моћнијих модела, већ и осигуравање да не буду изостављене из механизама који им омогућавају да се користе за јачање сопствене безбедности.
