Приложението за аватари Lensa и защо съществува риск за личните данни?


Приложението за аватари Lensa и защо съществува риск за личните данни?

4371

През последните седмици милиони хора качиха свои собствени аватари в социалните мрежи, създадени от приложението Lensa, базирано на изкуствен интелект. Програмата съществува от 2018 г., но от съвсем скоро се радва на истинска популярност – в края на ноември, когато в приложението се появи функцията "магически аватари". След това броят на изтеглянията на Lensa по света скочи драстично: през първите 5 дни на декември приложението беше изтеглено 4 милиона пъти – двойно повече отколкото през ноември, изчисли анализаторската компания Sensor Tower. Lensa оглавява списъка на най-популярните приложения в магазините на Apple App Store и Google Play.

Какво представлява приложението?

Годишен абонамент за Lensa струва 35,99 долара, а пакетите с аватари се продават на допълнителна цена от 3-12 долара. През 5-те дни на декември потребителите са похарчили 8,2 млн. долара за Lensa. Един потребител качва до 10 свои снимки в близък план в приложението. Програмата изгражда модел за машинно обучение въз основа на тях, след което моделът създава изображения в различни стилове на изкуството, от аниме до "приказна принцеса".

Потребителите се възхищават колко красиви и точни са се оказали техните портрети. Други ядосани споделят изображения с изкривени черти на лицето, а някои дори осакатени портрети, като например с ръце и крака, растящи направо от главите им. Има много оплаквания от чернокожи потребители: базата данни за машинно обучение, използвана от изкуствения интелект, е доминирана от снимки на хора с бяла кожа, така че портретите са изкривени.

Lensa е собственост на Prisma Labs, базирана в Калифорния компания. Фирмата е най-известна със своето приложение Prisma, използващо изкуствен интелект, за да трансформира снимки в рисунки в различни артистични стилове. Неговите създатели - руснаците Андрей Усолцев и Алексей Моисеенков - са работили в Yandex.

Lensa използва модели за безплатна система за машинно обучение, наречена Stable Diffusion. Моделите са обучени на милиарди комбинации от изображения от интернет. Приложението изпраща качени от потребителя снимки в своето облачно хранилище, изпълнява персонализиран модел за всеки потребител и изобразява портрета на потребителя в нови стилове.

Сигурността – под въпрос?

Изкривените изображения далеч не са главният проблем на Lensa. Много хора се притесняват за поверителността на снимките, които качват в приложението. Prisma Labs посочва, че компанията не споделя лични снимки или информация с трети страни. Prisma твърди, че използва само предоставени от потребителя снимки за създаване на аватари и премахва всяка партида от снимки, заедно с модела за машинно обучение, създаден за тези изображения, когато аватарът е завършен. Но правилата за поверителност, с които потребителят трябва да се съгласи, оставят възможност за споделяне на информация с други.

Prisma Labs твърди, че не използва снимки или отделни модели за обучение на системи за разпознаване на лица. Но Усолцев призна, че компанията пази "най-малкото" данни от потребителски снимки, въпреки че не посочи кои.

Друг проблем с поверителността на данните, за който има риск при използване на Lensa, е на друга равнина. Според експерти по изкуствен интелект гигантската колекция от изображения, наречена LAION, на която изкуственият интелект се учи, е взета от интернет. С други думи, включва изображения на хора, които не са дали съгласието си за използването на техните снимки. Един от артистите дори намери снимки от личния ѝ медицински картон в базата данни. Тя използва безплатния сайт HaveIBeenTrained.com, за да провери дали LAION разполага с нейни снимки, използващи системи за машинно обучение с изкуствен интелект.

Освен това като друг проблем с Lensa се явява потенциалът за сексуална експлоатация и тормоз. Потребителите могат да качват снимки на всеки, не само на своите. Често приложението дава женски голи образи или в пози със сексуални нотки. Това се случва и с изображения на деца, въпреки че според Lensa приложението е само за хора на 13 и повече години. "Моделът Stable Diffusion е обучен върху нефилтрирано интернет съдържание, следователно отразява вкусовете на хората, включени в изображенията, които създават", гласи секцията Въпроси и отговори на уебсайта на Lensa.

Експлоатация на труда на артистите

Някои дигитални художници са прегърнали изкуствения интелект с готовност. Но когато аватарите на Lensa наводниха социалните мрежи, мнозина призоваха хората да помислят преди да дадат пари в приложението. "Стиловете" на Lensa се базират на истинското изкуство на реални хора, които не получават компенсация от Prisma за работата си. "Програма, която използва нашето изкуство и генерира концептуално изкуство, пречи на нашата работа", заяви Джон Лам, художник в компанията за видеоигри Riot Games.

Механизмите на машинното обучение създават шаблони, а не конкретни произведения на изкуството, твърдят създателите на Lensa. Но Лам споделя, че приятелите му са загубили работата си, след като работодателите са използвали техните чертежи, за да обучат модели с изкуствен интелект. Според него художниците вече не били нужни на фирмите. В много случаи LAION използва защитени с авторски права изображения, а Prisma Labs печели от работата на авторите без съгласието им, казва художникът.

Още от Интернет и ИТ


Помогнете на новините да достигнат до вас!


Радваме се, че си с нас тук и сега!

Посещавайки Expert.bg, ти подкрепяш свободата на словото.

Независимата журналистика има нужда от твоята помощ.

Всяко дарение ще бъде предназначено за неуморния екип на Expert.bg.

Банкова сметка

Име на получател: Уебграунд ЕООД

IBAN: BG53UBBS80021021528420

BIC: UBBSBGSF

Основание: Дарение за Expert.bg

Sportlive.bg
Реклама

Валути

BNB Logo
  • EUR
    1
    1.955
  • USD
    1
    1.78827
  • GBP
    1
    2.19141
  • JPY
    100
    1.39255
виж всички

Крипто валути


  • Bitcoin Cash
    1
    194.25
    187.42
  • Litecoin
    1
    121.10
    116.92
  • Ethereum
    1
    2235.90
    2158.81
  • Bitcoin
    1
    31708.65
    30614.95
виж всички
Реклама

Най-четени новини


виж всички