KOPĪGOT | DRUKĀT | SŪTĪT E-PASTU
Bija laiks, kad debates par determinismu un brīvo gribu piederēja filozofijas katedrām un vēlām nakts sarunām kopmītņu istabās. Tās bija patīkamas tieši tāpēc, ka šķita nekaitīgas. Lai kāda arī būtu atbilde, dzīve turpinājās. Tiesas sprieda, ārsti lēma, skolotāji mācīja, un politiķi joprojām — vismaz nomināli — bija atbildīgi par savu rīcību. Šī ēra ir beigusies.
Mākslīgais intelekts ir pārveidojis to, kas kādreiz šķita abstrakts filozofisks jautājums, par konkrētu pārvaldības, varas un atbildības jautājumu. Determinisms vairs nav tikai teorija par to, kā darbojas Visums. Tas kļūst par mūsdienu institūciju darbības principu. Un tas visu maina.
Mākslīgā intelekta sistēmas pēc uzbūves ir deterministiskas. Tās darbojas, izmantojot statistisku secinājumu, optimizācijas un varbūtības teoriju. Pat ja to rezultāti mūs pārsteidz, tās joprojām ir saistītas ar matemātiskiem ierobežojumiem. Nekas šajās sistēmās nelīdzinās spriedumam, interpretācijai vai izpratnei cilvēciskā izpratnē.
Mākslīgais intelekts neveic apdomīgu darbu.
Tas neatspoguļojas.
Tā neuzņemas atbildību par sekām.
Tomēr arvien biežāk tās rezultāti netiek uzskatīti par instrumentiem, bet gan par lēmumiem. Šī ir mūsu laika klusā revolūcija.
Pievilcība ir acīmredzama. Iestādēm vienmēr ir bijušas grūtības ar cilvēku mainīgumu. Cilvēki ir nekonsekventi, emocionāli, lēni un dažreiz nepaklausīgi. Birokrātija dod priekšroku paredzamībai, un algoritmi sola tieši to: standartizētus lēmumus plašā mērogā, imūnus pret nogurumu un domstarpībām.
Veselības aprūpē algoritmi sola efektīvāku triāžu. Finansēs – labāku riska novērtējumu. Izglītībā – objektīvu izvērtēšanu. Valsts politikā – “uz pierādījumiem balstītu” pārvaldību. Satura moderācijā – neitralitāti. Kurš gan varētu iebilst pret sistēmām, kas apgalvo, ka novērš neobjektivitāti un optimizē rezultātus? Taču zem šī solījuma slēpjas fundamentāls apjukums.
Prognozēšana nav spriedums.
Optimizācija nav gudrība.
Konsekvence nav leģitimitāte.
Cilvēka lēmumu pieņemšana nekad nav bijusi tikai skaitļošanas process. Tā pēc savas būtības ir interpretējoša. Cilvēki izvērtē kontekstu, nozīmi, sekas un morālo intuīciju. Viņi balstās uz atmiņu, pieredzi un atbildības sajūtu par to, kas seko. Tieši to institūcijas uzskata par neērtu.
Cilvēka spriedums rada berzi. Tas prasa skaidrojumu. Tas pakļauj lēmumu pieņēmējus vainas apziņai. Turpretī deterministiskās sistēmas piedāvā kaut ko daudz pievilcīgāku: lēmumus bez lēmumu pieņēmējiem.
Kad algoritms atsaka aizdevumu, atzīmē pilsoni, samazina pacienta prioritāti vai apspiež runas brīvību, neviens nešķiet atbildīgs. To izdarīja sistēma. Dati runāja. Modelis pieņēma lēmumu.
Determinisms kļūst par birokrātisku alibi.
Tehnoloģijas vienmēr ir veidojušas institūcijas, taču līdz nesenam laikam tās galvenokārt paplašināja cilvēku rīcībspēju. Kalkulatori palīdzēja spriešanas procesā. Izklājlapas precizēja kompromisus. Pat agrīnā programmatūra atstāja cilvēkiem redzamu kontroli. Mākslīgais intelekts maina šīs attiecības.
Sistēmas, kas paredzētas prognozēšanai, tagad ir gatavas pieņemt lēmumus. Varbūtības kļūst par politikām. Riska novērtējumi kļūst par spriedumiem. Ieteikumi klusi pārvēršas par mandātiem. Kad šīs sistēmas ir ieviestas, tās ir grūti apstrīdēt. Galu galā, kurš gan strīdas ar "zinātni"?
Tāpēc vecās filozofiskās debates ir kļuvušas steidzamas.
Klasiskais determinisms bija apgalvojums par cēloņsakarību: ja ir pietiekami daudz informācijas, nākotni var paredzēt. Mūsdienās determinisms pārvēršas par pārvaldības filozofiju. Ja rezultātus var pietiekami labi paredzēt, institūcijas jautā, kāpēc vispār pieļaut rīcības brīvību?
Nedeterminismu bieži kariķē kā haosu. Taču pareizi izprasts, tas nav ne nejaušība, ne iracionalitāte. Tā ir telpa, kurā notiek interpretācija, kurā tiek izvērtētas vērtības un kurā atbildība tiek piešķirta personai, nevis procesam.
Atbrīvojoties no šīs telpas, lēmumu pieņemšana nekļūst racionālāka. Tā kļūst neatbildīga.
Īstās mākslīgā intelekta briesmas nav nekontrolējams intelekts vai jūtīgas mašīnas. Tā ir cilvēka atbildības lēna erozija zem efektivitātes karoga.
21. gadsimta noteicošais konflikts nebūs starp cilvēkiem un mašīnām. Tas būs starp diviem intelekta uzskatiem: deterministisku optimizāciju pretstatā nozīmes radīšanai nenoteiktības apstākļos.
Viens no tiem ir mērogojams.
Otrs ir atbildīgs.
Mākslīgais intelekts liek mums izlemt, kurš no tiem pārvalda mūsu dzīvi.
-
Dr. Joaquim Sá Couto ieguva doktora grādu Lisabonas Universitātē (Portugāle) un turpināja medicīnas specializāciju ASV, kur ieguva doktora grādu. "Amerikas Ķirurģijas padomes diplomāts"(1989). Ārste Sá Couto bija viena no pirmajām, kas ieviesa pulsējošo Nd-YAG kontrastlāzeru zirnekļa vēnu (telangiektāziju) ārstēšanai Portugālē, uzkrājot aptuveni 15 gadu pieredzi šajā tehnikā.
Skatīt visas ziņas
