Великобритания и САЩ подписаха първото в света споразумение за безопасност на AI


Великобритания и САЩ подписаха първото в света споразумение за безопасност на AI
Снимка: iStock

3477

Великобритания и САЩ подписаха забележително споразумение за съвместна работа за тестване на усъвършенстван изкуствен интелект (AI), предава BBC.

Споразумението гласи, че двете страни ще работят заедно за разработването на „стабилни“ методи за оценка на безопасността на инструментите за изкуствен интелект и системите, които ги подкрепят. Това е първото по рода си двустранно споразумение в областта.

Британският министър на технологиите Мишел Донелан каза, че това е „определящото технологично предизвикателство на нашето поколение“. „Винаги сме били ясни, че осигуряването на безопасно развитие на ИИ е споделен глобален проблем. Само като работим заедно, можем директно да се справим с рисковете на технологията и да впрегнем нейния огромен потенциал, за да ни помогне да живеем по-лесно и по-здравословно“, казва тя.

Държавният секретар по въпросите на науката, иновациите и технологиите добави, че споразумението се основава на ангажиментите, поети на срещата на върха за безопасността на AI, проведена в Блечли Парк през ноември 2023 г.

Събитието, на което присъстваха шефове на AI, включително Сам Олтман от OpenAI, Демис Хасабис от Google DeepMind и технологичният милиардер Илон Мъск, видяха както Обединеното кралство, така и САЩ да създадат Институти за безопасност на AI, които имат за цел да оценят AI системи с отворен и затворен код.

Снимка: iStock

Докато нещата бяха тихи на фронта на безопасността на AI след срещата на върха, самият сектор на AI беше много натоварен. Конкуренцията между най-големите AI чатботове – като ChatGPT, Gemini, Claude – остава жестока.

Досега почти изцяло базираните в САЩ компании, които стоят зад цялата тази дейност, още си сътрудничат с концепцията за регулиране, но регулаторите още не са ограничили нищо, което тези компании се опитват да постигнат.

По същия начин регулаторите не са изисквали достъп до информация, която фирмите за изкуствен интелект не желаят да споделят, като например данните, използвани за обучение на техните инструменти, или екологичните разходи за тяхното използване.

Законът за AI на ЕС е напът да се превърне в закон и след като влезе в сила, ще изисква от разработчиците на определени системи за AI да бъдат откровени за своите рискове и да споделят информация за използваните данни.

Това е важно, след като OpenAI наскоро каза, че няма да пусне разработен от него инструмент за клониране на глас поради „сериозни рискове“, които технологията представя, особено в година на избори.

През януари фалшиво, генерирано от изкуствен интелект обаждане, за което се твърди, че е от президента на САЩ Джо Байдън, призова избирателите да пропуснат първичните избори в Ню Хемпшир.

AI опасения

Снимка: iStock

В момента по-голямата част от AI системите са в състояние да изпълняват само единични, интелигентни задачи, които обикновено се изпълняват от човек.

Известни като „тесен“ AI, тези задачи могат да варират от бързо анализиране на данни до предоставяне на желан отговор на подкана.

Но има опасения, че по-интелигентни „общи“ инструменти за изкуствен интелект – способни да изпълняват редица задачи, обикновено изпълнявани от хора – могат да застрашат човечеството. „Изкуственият интелект, подобно на химията, ядрената наука и биологията, може да бъде въоръжен и използван за добро или зло“, казва проф. Найджъл Шадболт пред BBC. Но професорът от Оксфордския университет добави, че страховете около екзистенциалния риск на AI „понякога са малко преувеличени“.

„Трябва наистина да подкрепяме и да оценяваме усилията да накараме големите сили на AI да мислят и изследват какви са опасностите. Трябва да разберем колко податливи са тези модели, а също и колко мощни са те“, пояснява той.

Джина Раймондо, министър на търговията на САЩ, направи коментар, че споразумението ще даде правителствата по-добро разбиране на AI системите, което ще им позволи да излязат с по-добри насоки.

„Това ще ускори работата на двата ни института в пълния спектър от рискове, независимо дали за националната ни сигурност, или за обществото“, казва тя. „Нашето партньорство ясно показва, че ние не бягаме от тези опасения – ние бягаме срещу тях“, заяви тя.

Източник: BBC

ОЩЕ ПО ТЕМАТА:

Google ще инвестира 25 млн. евро за повишаване на AI уменията в Европа

Защо Илон Мъск заведе дело срещу Сам Алтман и Open AI?

Директорът на Google: ИИ може да помогне повече, отколкото да вреди, за киберсигурността

Още от Интернет и ИТ


Помогнете на новините да достигнат до вас!


Радваме се, че си с нас тук и сега!

Посещавайки Expert.bg, ти подкрепяш свободата на словото.

Независимата журналистика има нужда от твоята помощ.

Всяко дарение ще бъде предназначено за неуморния екип на Expert.bg.

Банкова сметка

Име на получател: Уебграунд Груп АД

IBAN: BG16UBBS80021036497350

BIC: UBBSBGSF

Основание: Дарение за Expert.bg

Sportlive.bg
Реклама

Валути

BNB Logo
  • EUR
    1
    1.955
  • USD
    1
    1.83957
  • GBP
    1
    2.26558
  • JPY
    100
    1.18888
виж всички
Реклама

Най-четени новини


виж всички