Дебатата не е нова, но во последните денови повторно доби огромно внимание по серија предупредувања и инциденти поврзани со најнапредните модели на вештачка интелигенција.
Она што особено привлекува внимание е што повиците за претпазливост повеќе не доаѓаат само од критичарите на технологијата.
Ги упатуваат и луѓе кои самите ја развиваат.
Зошто токму сега се крена алармот?
Еден од настаните што ја разгоре дебатата е поврзан со AI агенти на OpenAI кои биле тестирани во изолирана средина.
Според објавените информации, агентите искористиле софтверска ранливост за да добијат пристап до интернет, а потоа стигнале до инфраструктурата на платформата Hugging Face.
Станувало збор за тестирање на способностите на системите, но инцидентот отвори многу поголемо прашање: што се случува кога напреден AI систем ќе пронајде начин да направи нешто што неговите создавачи не го предвиделе?
Дополнителна загриженост предизвика и заминувањето на истражувачот Џејкоб Коксон од Anthropic, кој претходно работел и во OpenAI.
Тој јавно предупреди дека трката за создавање сè помоќни системи се движи пребрзо и дека компаниите не преземаат доволно мерки за ризиците што ги носи таквиот развој.
Компаниите што се натпреваруваат – сега зборуваат и за забавување
Ситуацијата станува уште понеобична затоа што дел од највлијателните луѓе во индустријата почнаа отворено да разговараат за потребата од забавување на развојот на најмоќните модели.
Причината е едноставна, но проблемот е огромен.
Ниту една компанија не сака самостојно да запре додека нејзините конкуренти продолжуваат да развиваат помоќни системи.
Ако една лабораторија забави поради безбедност, а останатите продолжат со полна брзина, таа ризикува да заостане во една од најважните технолошки трки во светот.
Затоа сè почесто се зборува за заеднички стандарди, независни процени на најнапредните модели и механизми со кои развојот би можел координирано да се забави доколку ризиците станат преголеми.
Што значи „губење контрола“?
Кога ќе се спомене губење контрола врз ВИ, лесно е да се замисли сценарио од научнофантастичен филм.
Но, реалната загриженост денес е многу поконкретна.
Современите AI агенти повеќе не мора само да одговараат на прашања. Тие можат да добијат цел, да планираат повеќе чекори, да користат различни дигитални алатки и да извршуваат задачи со помалку директна човечка интервенција.
Колку стануваат поспособни, толку поважно станува да можеме да предвидиме како ќе реагираат во непозната ситуација.
Еден од најголемите стравови е идните системи да станат доволно способни да помагаат во создавањето на уште понапредни AI системи.
Во такво сценарио, темпото на развој би можело дополнително да се забрза, додека методите за нивно тестирање, надзор и регулирање би заостанувале.
Не сите се согласуваат дека треба да се повлече рачната
Во технолошката индустрија нема консензус околу тоа колку голем е ризикот и што треба да се направи.
Едната страна смета дека брзиот развој носи огромни можности – од медицина и научни откритија до образование, продуктивност и економски раст – и дека прекумерното ограничување може да го забави напредокот.
Други предупредуваат дека токму брзината е проблемот.
Нивниот аргумент е дека создавањето системи кои стануваат сè поспособни нема многу смисла ако паралелно не се развиваат доволно добри механизми за нивна контрола.
Така дебатата повеќе не е едноставно „за или против ВИ“.
Прашањето станува: Колку брзо можеме безбедно да одиме напред?
Вештачката интелигенција веќе го менува и светот на работата
За обичниот корисник, оваа дебата може да изгледа далечна.
Но, ВИ веќе е дел од секојдневната работа на милиони луѓе.
Се користи за пишување и анализа на текстови, програмирање, маркетинг, корисничка поддршка, обработка на податоци, дизајн, преведување, истражување и автоматизација на задачи.
Следниот чекор се AI агентите кои нема само да ни предлагаат што да направиме, туку ќе можат самостојно да извршуваат сè поголем број задачи.
Тоа отвора огромни можности за компаниите и вработените, но истовремено го прави прашањето за човечкиот надзор уште поважно.
ВИ не запира – прашањето е кој ќе ја постави границата
Во моментов нема доказ дека човештвото едноставно „ја изгубило контролата“ врз вештачката интелигенција.
Но, последните случувања покажуваат нешто што до неодамна звучеше необично: дел од луѓето и компаниите кои најмногу придонесуваат за нејзиниот забрзан развој сега самите предупредуваат дека безбедносните механизми мора да напредуваат со слично темпо.
И токму затоа следната голема битка околу ВИ можеби нема да биде само околу тоа кој ќе создаде најмоќен модел.
Туку и околу тоа кој ќе одлучи кога е време да се забави.