Shqetësimi për pornot në Google/ "Mos prodhoni asgjë që keni turp t'ia tregoni nënës"

15 Tetor 2022, 17:17, Tech CNA

Shqetësimi për pornot në Google/ "Mos prodhoni asgjë

Kohët e fundit janë shumë të njohura programet e inteligjencës artificiale si DALL-E, Stable Diffusion dhe Midjourney, të cilat përdoren për të krijuar imazhe nga komanda vizuale ose të shkruara.

Bazuar në këtë, Meta dhe Google projektuan algoritme të inteligjencës artificiale që prodhojnë video nga teksti. Meta, pronari i Facebook, Instagram dhe WhatsApp, shpalli Make-A-Video, algoritmin e inteligjencës artificiale që prodhon video, në fillim të tetorit.

Tani, Google ka prezantuar algoritmin Imagen Video, i cili prodhon video shumëngjyrëshe nga komandat e shkruara .

Duke publikuar informacione për algoritmin e ri me shembuj të ndryshëm video, kompania thekson se imazhet e marra nga modeli Imagen Video mund të nxirren deri në rezolucion 1280x768.

Ky është me cilësi shumë më të mirë se modeli Make-A-Video i Metës, i cili mund të shkojë deri në rezolucion 768x768.

Nga ana tjetër, zyrtarët e Google bënë deklarata që do të mërzitnin përdoruesit që prisnin me padurim të provonin algoritmin.

Kompania, e cila zgjodhi të mos e vërë në dispozicion programin, ia atribuoi këtë vendim "disa çështjeve kryesore të sigurisë dhe etikës".

Në deklaratë, vëmendje iu kushtua përmbajtjes që mund të ishte "e rreme, urrejtje, e turpshme ose e dëmshme":

"Testet tona tregojnë se shumica e përmbajtjeve të turpshme dhe të dhunshme mund të filtrohen, por ka ende paragjykime dhe stereotipe që janë të vështira për t'u zbuluar dhe filtruar. Ne kemi vendosur të mos lëshojmë modelin e Videos Imagen ose kodin burimor derisa këto shqetësime të adresohen.
Shqetësimi i përbashkët në modelet e inteligjencës artificiale që prodhojnë imazhe nga komandat e shkruara është se përdoruesit përpiqen të prodhojnë përmbajtje pornografike.

Kjo është arsyeja pse disa modele kanë filtra të rreptë të aplikuar. Open AI, kompania që zhvilloi DALL-E, për shembull, vendos kufizime për llojet e imazheve që përdoruesit mund të gjenerojnë në program. Kjo është arsyeja pse fjalët si "seks" nuk lejohen në program."- shprehen zyrtarët e Google.

Mungesa e kontrollit në burimin e hapur Stable Diffusion krijoi polemika mbi këtë çështje. Emrat që zhvilluan inteligjencën artificiale u alarmuan kur përdoruesit u përpoqën të prodhonin përmbajtje pornografike në këtë program .

Deklarata e bërë në llogarinë e kompanisë në Twitter përfshinte deklaratat e mëposhtme:

"Mos prodho asgjë që do të të vinte turp t'i tregosh nënës.
Studiuesit e Google janë edhe më të shqetësuar për këtë sepse modeli Imagen prodhon video, jo foto. Modelet e videove mund të ndikojnë pozitivisht në shoqëri duke fuqizuar dhe rritur kreativitetin njerëzor," thanë studiuesit./CNA.al