Məqaləyə belə bir sual ilə başlayaq: idarəetmə sükanını süni intellektə verməyə hazırıq?

Alqoritmlər artıq uzun müddətdir idarəetmədə rol oynayır. İşə qəbul proseslərindən vergi yoxlamalarına, sosial yardım mexanizmlərindən polis marşrutlarının müəyyənləşdirilməsinə qədər bir çox sahədə qərarların qəbuluna təsir göstərir. Bu isə o deməkdir ki, alqoritmlər artıq sadəcə texniki vasitə deyil. Artıq onlar ictimai tənzimləmələrin və siyasi qərarların tam mərkəzində dayanır.

Düşünün ki, işə qəbul zamanı istifadə olunan bir alqoritm namizədləri qiymətləndirərkən ayrı-seçkiliyə yol verə bilər. Yaxud vergi yoxlamalarında tətbiq edilən bir sistem müəyyən qrupları qeyri-mütənasib şəkildə hədəf ala bilər. Məhz buna görə də bu cür sistemlərin ədalətli, şəffaf və hesabatlı olması həyati əhəmiyyət daşıyır.

Son dövrlərdə Albaniya və Yaponiyada baş verən hadisələr bu mövzunu tamamilə yeni bir müstəviyə qaldırıb

Albaniya hökuməti “Diella” adlı rəqəmsal köməkçini dövlət satınalmaları və tender proseslərini idarə etmək üçün vəzifələndirib. Yaponiyada isə bir siyasi partiya süni intellekti öz partiya rəhbəri kimi təyin edəcəyini açıqlayıb.

Beləliklə də, süni intellekt sistemləri artıq gizli texnoloji infrastruktur olmaqdan çıxaraq, öz üzərinə ictimai rollar götürməyə başlayıb.

Bəs alqoritmik idarəetmə nədir? Sadə dillə desək, bu anlayış məlumatlardan öyrənən, dəyişən şəraitə uyğunlaşan və geniş miqyasda fəaliyyət göstərən süni intellekt sistemlərini əhatə edir. Bu sistemlər təkcə sabit qaydaların icrası ilə kifayətlənmir. Onlar hətta öz qurucularının belə əvvəlcədən nəzərdə tutmadığı qərarları təklif edə bilirlər.

Məhz bu xüsusiyyət onları həm son dərəcə güclü edir, həm də nəzarəti çətinləşdirir. Məsələn nəqliyyat axınını optimallaşdırmaq üçün hazırlanmış bir sistem, zaman keçdikcə müəyyən ərazilərdə tıxacları daha da artıran qərarlar verə bilər.

Maarifçilik dövrünün filosofları mübahisələrin hesablamalar yolu ilə həll edilə biləcəyi bir dünya təsəvvür edirdilər.

Müasir alqoritmik idarəetmə də məhz bu ideyanı həyata keçirirmiş kimi görünür: subyektivlikdən uzaq, rasional qərarlar vədi. Ancaq Maks Veberin məşhur “Dəmir qəfəs” metaforasını xatırlayırsınız? Məhz bu alqoritmik sistemlər bu qəfəsi daha da daralda bilər. Onlar fərdlərin azadlığını və müstəqilliyini məhdudlaşdıra bilər.

Misal üçün təsəvvür edin ki, sosial yardım sistemi müəyyən meyarlara əsaslanaraq müraciətləri avtomatik şəkildə rədd edir və insanların ən əsas ehtiyaclarını qarşılamağını çətinləşdirir.

Müasir süni intellekt sistemləri statistik nəticə çıxarma prinsiplərinə əsaslanır. Nəticələr məlumatlar arasındakı mürəkkəb əlaqələrin xəritələndirilməsi yolu ilə formalaşır. Bu, çeviklik yaradır, lakin eyni zamanda şəffaf olmayan bir mühit də formalaşdırır. Bəzən hətta qərarvericilər belə süni intellekt tərəfindən verilən müəyyən bir tövsiyənin niyə verildiyini izah etməkdə çətinlik çəkirlər.

Bir başqa məsələ də zaman amilidir. Əvvəllər sistemlər periodik və geriyə yönəlik idi: hər on ildən bir əhali siyahıyaalınması, hər maliyyə ilində bir büdcə planı. Müasir süni intellekt sistemləri isə fasiləsiz işləyir. Onlar real vaxt rejimində məlumat toplayır və qərarları anında yeniləyir. Nəzarəti mürəkkəbləşdirən əsas məqam da məhz bu davamlılıqdır.

Bəs bu cür bir vəziyyətdə nə etməliyik? Albaniya və Yaponiyadakı bu təcrübələr əslində bizə bir fürsət təqdim edir. Bu, alqoritmik qərarverməni tənzimləyəcək normaları, nəzarət mexanizmlərini və hüquqi çərçivələri formalaşdırmaq üçün bir imkandır.

Bəs indi bizim bu məsələdəki vəzifəmiz nədir deyə soruşası olsanız, “idarəetmə modelini legitim, müzakirəyə açıq və demokratik prinsiplərlə uyğun saxlamağın yollarını tapmaq”, - deyə cavab verərdim.

Şəffaflıq, hesabatlılıq və ədalət kimi prinsiplər alqoritmik sistemlərin həm dizaynında, həm də tətbiqində mütləq nəzərə alınmalıdır. Unutmayaq ki, bu sistemlərin təsirini izləmək və qiymətləndirmək üçün davamlı səylər göstərmək zəruridir.