Binabala ni Papa sa ‘perbersong’ deepfakes

(SeaPRwire) –   Inamin ng pontipis na siya ay personal na biktima ng mga pekeng larawan na ginawa ng AI

Nagbigay ng babala si Papa Francisco tungkol sa mga potensyal na panganib na dulot ng pag-unlad ng sining panday ng artificial intelligence, na sinabing maaaring magresulta sa “pagkakamali ng katotohanan” nang walang “pag-aayos sa etika.”

Sa isang mahabang mensahe na inilabas noong Miyerkules, sinabi ni Francisco na ang mga kamakailang pag-unlad sa AI ay parehong “libangan at nakakalito,” ngunit nagtaas din ng mas malalim na mga tanong tungkol sa ugnayan ng tao sa teknolohiya. “Paano tayo mananatiling buo at makakapagpatnubay sa pagbabago ng kultura upang maglingkod sa mabuting layunin?” ayon sa kanya.

“Maaaring tulungan ng mga sistema ng artificial intelligence upang malampasan ang kawalan ng kaalaman at mapadali ang pagpapalitan ng impormasyon sa pagitan ng iba’t ibang mga tao at henerasyon,” ayon kay Papa Francisco. “Ngunit sa kabilang banda, maaari ring maging sanhi ng ‘pagkamal ng kognisyon,’ isang pagkakamali ng katotohanan sa pamamagitan ng bahagi o buong pekeng mga kuwento, na pinaniniwalaan at ipinapakalat na kung totoo.”

Luminya pa ang Papa sa “matagal nang problema ng maling impormasyon sa anyo ng pekeng balita,” na binanggit ang sarili niyang biktima ng ‘deepfakes’ – napakakumbinsing mga larawan o audio na ginawa ng AI, karaniwang ginagamit upang pagtakpan ang mga personalidad sa publiko.

“Ang teknolohiya ng simulasyon sa likod ng mga programa na ito ay maaaring kapaki-pakinabang sa ilang partikular na larangan, ngunit magiging baluktot kapag nagbago ito sa aming ugnayan sa iba at sa katotohanan,” ayon pa kay Francisco.

Maaaring dalhin tayo ng digital na rebolusyon sa mas malaking kalayaan, ngunit hindi kung ipiri-pirito tayo sa mga modelo na tinatawag ngayong ‘echo chambers.’

Napakita sa isang pekeng larawan noong nakaraang taon si Papa Francisco na suot ang isang . Ayon sa nakikilalang lumikha nito, ang pekeng larawan ay nagmula sa Midjourney, isang tool para sa sining na nakabase sa AI. Lumaganap ito sa social media at nagpahuli sa maraming gumagamit.

Habang dapat “iwasan ang katakutan-takutang hula” tungkol sa hinaharap ng AI, ayon kay Francisco ito ay maaaring “magresulta sa bagong uri ng uri ng tao batay sa access sa impormasyon” at magdulot ng “bagong anyo ng pagsasamantala at hindi pantay na pagtrato.” Upang maiwasan ang pinakamasamang resulta, binigyang-diin niya ang pangangailangan na “unawain, tanggapin at i-regula ang mga kagamitan na maaaring magresulta sa nakakabahalang sitwasyon kung nasa maling kamay.”

“Tulad ng anumang iba pang produkto ng katalinuhan at kakayahan ng tao, ang mga algoritmo ay hindi neutral. Dahil dito, kailangan gumawa ng hakbang upang mapigilan ang mga masamang epekto, nagdidiskrimina at hindi makatarungang epekto ng paggamit ng mga sistema ng artificial intelligence at labanan ang hindi tamang paggamit nito,” ayon sa kanya, na nanawagan para sa isang “nakakakapit na tratadong pandaigdig” na nag-aayos sa paggamit at pag-unlad ng AI.