Təsəvvür edin ki, arzularınızdakı iş üçün CV göndərirsiniz — amma müraciətiniz insan onu görməzdən əvvəl rədd edilir. Və ya kredit üçün müraciət edirsiniz və kompüter “yox” deyir… heç bir izahat vermədən, sadəcə verilənlər bazasındakı bəzi rəqəmlərə əsaslanaraq.

Süni intellekt hər gün həyatımızla bağlı qərarlar verir: CV-ləri analiz edir, kreditləri təsdiqləyir, sosial mediada gördüklərimizi formalaşdırır və hətta məhkəmələrə kömək edir. Bu məntiqli görünür — alqoritmlər obyektivdir, çünki onların emosiyaları və şəxsi üstünlükləri yoxdur. Amma paradoks burada ortaya çıxır: süni intellekt yalnız səhvlərimizi təkrarlamır — onları gücləndirir.

Süni intellekt nələri öyrənir

Süni intellekti təlimləndirmək üçün ona çox sayda nümunə göstərilir: mətnlər, şəkillər, keçmiş qərarların qeydləri, söhbət logları. Amma problem var — bütün bu məlumatları insanlar yaradır. Və insanlar, bildiyimiz kimi, qüsursuz deyillər.

Düşünün: bir model, son 20 ildə əsasən kişiləri işə götürən bir şirkətin uğurlu işçilərinin CV-ləri ilə təlimləndirilirsə, nə öyrənəcək? Düzdür — kişilər “daha uyğun” olaraq qəbul ediləcək. Süni intellekt anlamır ki, bu ədalətsiz təcrübələr və ya tarixi şərait nəticəsində yaranıb. O sadəcə görür: “Bu məlumatlarda rəhbər vəzifələrdə daha çox kişi var. Deməli, belə olmalıdır.”

Eyni prinsip məhkəmələrdə də işləyir. Tarixi olaraq bəzi qruplar daha sərt cəzalar alıbsa, alqoritm bunu norma kimi qəbul edir. O ədalətsizliyi hiss etmir — sadəcə hesablayır.

Süni intellektə ayrı-seçkiliyi necə “öyrədirik”

Qərəz AI-yə hər mərhələdə sızır:

• Tarix bizə qarşı işləyir. Əgər keçmişdə qadınların rəhbər vəzifələrə təyin olunma ehtimalı az idisə (və az idi), AI bunu belə şərh edir: “Qadınlar nadir hallarda lider olur = qadınlar pis liderdir.”
• Məlumatlar bir tərəfli ola bilər. Əsasən Avropalıların şəkilləri ilə təlimləndirilmiş üz tanıma sistemi Asiya və ya Afrika üzlərində pis işləyəcək — pis niyyət yox, sadəcə kifayət qədər müxtəlif nümunə göstərilməyib.
• İnsanlar da səhv edir. Tərtibatçılar datasetləri seçir, etiketləyir və “uğur” kimi nəyi qəbul edəcəyini qərarlaşdırır. Hər mərhələdə onların öz bilinçsiz qərəzləri daxil ola bilər.

Süni intellekt hansı qərəzləri öyrənir

• Cinsiyyət stereotipləri: AI üçün “proqramçı” adətən kişi, “tibb bacısı” qadındır — sadəcə məlumatlar belə paylanıb.
• Irq qərəzi: Kredit qiymətləndirmə sistemləri müəyyən etnik qruplara daha aşağı qiymət verə bilər, hətta maliyyə göstəriciləri eyni olsa da.
• Yaş ayrı-seçkiliyi: İşə qəbul AI sistemləri yaşlı namizədləri “sevməyə” bilər, hətta yaş açıq şəkildə göstərilməsə də. Algoritm sadəcə bir nümunəni görür: universiteti uzun müddət əvvəl bitirənlər “daha az uğurlu” görünür.
• Sosial təbəqə qərəzi: Harada yaşadığınız, harada oxuduğunuz, poçt kodunuz — bütün bunlar AI-nin qiymətləndirməsinə təsir edə bilər.

Problemlərin real nümunələri

Amazon və gender qərəzi:
Amazon işə qəbul prosesini avtomatlaşdırmaq istədi. Fikir yaxşı idi: son 10 ildə uğurlu işçilərin CV-lərini verin və AI oxşar namizədləri tapsın. Amma problem nə idi? Çoxu kişi idi. AI “woman” sözünü və qadın kolleclərinin adlarını ehtiva edən CV-ləri avtomatik aşağı qiymətləndirdi. Layihə dayandırıldı, amma göstərdi ki, hətta texnoloji nəhənglər də qəsdən olmasa da diskriminativ AI yarada bilər.

Microsoft Tay chatbotu:
2016-cı ildə Microsoft Tay adlı Twitter chatbotunu təqdim etdi. İdeya sadə idi: insanlarla söhbət edərək öyrənsin. 24 saat içində Tay irqçi və seksist oldu. Microsoft 48 saat ərzində bağladı. Nəticə aydın idi: AI internetdən təmizlənməmiş məlumatlarla öyrəndikdə ən pis nümunələri sürətlə mənimsəyir.

Məhkəmələrdə qərəzli alqoritmlər:
ABŞ-da məhkəmələr, şəxsin təkrar cinayət törətmə ehtimalını proqnozlaşdıran sistemlərdən istifadə edirdi. ProPublica araşdırması göstərdi ki, alqoritm qaradərili məhkumlar üçün riskləri həddindən artıq yüksək qiymətləndirir, ağdərili məhkumlar üçün isə azaldırdı. AI irqçi deyildi — sadəcə məlumatda gördüyünü təkrarladı.

Uber və qiymət siyasəti:
Uber dinamik qiymətləndirmə üçün AI istifadə edir. Amma Sidlendə terror aktı zamanı qiymətlər dörd dəfə artdı. Sonradan fövqəladə hallar üçün istisnalar əlavə olundu, amma problem qalır: dinamik qiymətləndirmə xidmətləri aşağı gəlirli insanlar üçün əlçatmaz edə bilər.

Qərəzi “söndürmək” mümkün deyil

Sadə həll kimi görünə bilər: cinsiyyət, irq və ya yaş məlumatlarını sil. Amma bu kifayət deyil.

• AI gizli siqnalları aşkarlayır: adı, universiteti, hobbiləri və yazı tərzi ilə cinsiyyətinizi müəyyən edə bilər.
• Tarix məlumatlarda qalır: qadınlar tarixi olaraq eyni iş üçün daha az maaş alıbsa, AI bunu təkrar edəcək.
• Obyektivlik mövcud deyil: “yaxşı nəticə”nin nə olduğu da insan qərarıdır və dəyərlərlə yüklüdür.

AI üçün məsuliyyət kimdədir?

Avropa İttifaqında AI Aktı 1 avqust 2024-də qüvvəyə mindi. Məsuliyyət bir neçə səviyyəyə bölünür:

• Təchizatçılar (Providers): AI sistemlərini hazırlayanlar, məhsulların təhlükəsizliyinə görə əsas məsuliyyət daşıyır.
• İnteqratorlar (Deployers): Hazır AI-ləri məhsullarına əlavə edən şirkətlər (məsələn, vebsaytda chatbot). Öhdəlikləri: riskləri qiymətləndirmək, risklərin azaldılmasını sənədləşdirmək, istifadəçiləri AI ilə ünsiyyət barədə məlumatlandırmaq.
• İstifadəçilər: AI-nin səhvlərinə görə məsuliyyət daşımır.

Dörd risk səviyyəsi

1. Minimal risk: təqdimatlar, foto filtr tətbiqləri. Məhdudiyyətlər çox azdır.
2. Məhdud risk: köməkçi və dəstək chatbotları. Şəffaflıq vacibdir — istifadəçi AI ilə ünsiyyətə dair məlumatlı olmalıdır.
3. Yüksək risk: səhiyyə, ədalət, təhsil, işə qəbul, kredit təsdiqi. Ətraflı yoxlamalar və davamlı nəzarət tələb olunur.
4. Qəbuledilməz risk: manipulyasiya, vətəndaşların sosial skorinqi, kütləvi nəzarət. Tamamilə qadağandır.

Yüksək riskli AI üçün nə etmək lazımdır

• Əvvəlcədən qiymətləndirmə: potensial riskləri müəyyənləşdirin, mitigasiya tədbirlərini sənədləşdirin, tərtibatçının təlimatlarına uyğunluğu yoxlayın.
• Şəffaflıq: istifadəçilər bilsin ki, AI ilə ünsiyyət qururlar.
• “Niyə?” hüququ: qərar sizi təsir edirsə, soruşa bilərsiniz: “Niyə təsdiqlənmədim? Hansı məlumatlar yoxlanıldı?”
• İnsan müdaxiləsi hüququ: AI qərarına etiraz edə bilərsiniz, insanın nəzərdən keçirməsi təmin olunmalıdır.
• Davamlı monitorinq: sistemlər mütəmadi olaraq yoxlanmalı, səhvlər və davranış dəyişiklikləri izlənməlidir.
• Komanda təlimi: AI-dən düzgün istifadə, məhdudiyyətləri başa düşmək, yenilikləri tətbiq etmək və davamlı öyrənmək lazımdır.

NovaTalks: Kontakt mərkəzlərində AI səhvlərindən necə qaçmaq olar

Bütün çətinliklərə baxmayaraq, süni intellekt kontakt mərkəzləri üçün güclü və effektiv alət olaraq qalır — düzgün tətbiq edildikdə və nəzarət olunduqda. NovaTalks müştəri xidmətləri üçün AI həllərini illərdir tətbiq edir və biz bilirik ki, ümumi səhvlərdən necə qaçmaq olar.

NovaTalks-da AI-nin etibarlı işləməsinin səbəbi

Nəzarət olunan mühit. Amazon və Microsoft Tay kimi hallardan fərqli olaraq, burada AI nəzarətsiz məlumatlardan öyrənmir. NovaTalks-un AI alətləri aydın müəyyən edilmiş sərhədlərdə fəaliyyət göstərir. Sistemlərin təsadüfi mənbələrdən qərəz yaratmasına imkan verilmir.

Davamlı insan nəzarəti. NovaTalks-un AI köməkçiləri operatorlara real vaxtda dəstək verir — səhvləri düzəldir, tərcümə edir, ton və ifadəni tənzimləyir, söhbətləri ümumiləşdirir. Amma son qərar həmişə insana aiddir. Bu, tam avtomatlaşdırılmış sistemlərdən əsas fərqdir.

Şəffaf avtomatlaşdırılmış keyfiyyət qiymətləndirməsi. Sistemimiz bütün söhbətlərin 100%-ni analiz edir (manual olaraq yoxlanılan 5%-lə müqayisədə). Lakin bu, avtomatik işdən çıxarma və ya cəza üçün istifadə edilmir. O, yalnız insan diqqətinə ehtiyacı olan sahələri vurğulayan alətdir.

Sertifikatlı təhlükəsizlik. NovaTalks ISO/IEC 27001:2022 standartına uyğun rəsmi sertifikatlaşdırılıb — məlumatların təhlükəsiz idarə olunmasının qlobal standartı. Bu, platformamız vasitəsilə işlənən bütün məlumatların təhlükəsiz qorunduğunu təmin edir.

Təcrübəmiz göstərir: AI ədalətli ola bilər

Bankçılıq, maliyyə və telekommunikasiya sahələrində illərlə işləyərək biz diskriminativ səhvlərin qarşısını alan prinsiplər hazırlamışıq:

• Müxtəlif təlim məlumatları: fərqli müştəri qruplarını, regionları, dilləri və ünsiyyət üslublarını əhatə edən datasetlər
• Müntəzəm auditlər: bütün istifadəçi seqmentləri üzrə davamlı performansı təmin etmək üçün qərəz yoxlamaları
• AI Aktına uyğunluq: Avropa bazarında fəaliyyət göstərərkən keyfiyyət və ədalət üçün tam məsuliyyət
• Komanda təhsili: müştərilər və onların komandaları üçün AI-dən düzgün istifadə və vaxtında insan müdaxiləsi üzrə davamlı təlim

NovaTalks-da AI insanları əvəz etmir — onları gücləndirir. Chatbotlar və avtomatik cavablar 24/7 dəstək təmin edir, mürəkkəb hallar isə həmişə canlı operatorlara yönləndirilir. Sistem bütün qarşılıqlı əlaqə tarixçəsini və müştəri məlumatlarını qoruyur, fərdiləşdirilmiş xidməti qərəzsiz təmin edir.

Bizim BI sistemi və mətn analitikası kontakt mərkəzinin performansı barədə obyektiv məlumat verir və məlumatlara əsaslanan qərarları dəstəkləyir.

AI kontakt mərkəzlərində həm effektiv, həm də ədalətli ola bilər — və olmalıdır.

NovaTalks bunu hər gün sübut edir: şirkətlərə rutin işləri avtomatlaşdırmağa kömək edərək diskriminasiya riskini aradan qaldırır və xidmət keyfiyyəti üzərində tam nəzarəti saxlayır.

Hər birimizin etməli olduğu şey

AI-də qərəz sadə bir səhv deyil ki, onu tez düzəltmək mümkün olsun. Bu, kollektiv səylə həll edilməli olan bir çağırışdır.

• Tərtibatçılar: məlumatlarla daha diqqətli işləməli, sistemləri qərəz üçün müntəzəm yoxlamalı və AI-nin yaradılması və testində müxtəlif komandaları cəlb etməlidirlər.
• Şirkətlər: texnologiyadan necə istifadə etdiklərinə görə məsuliyyət daşıyır. Riskləri qiymətləndirməli və istifadəçilərə şəffaf olmalıdır.
• Tənzimləyicilər: insanları qoruyan, amma innovasiyanı boğmayan aydın qaydalar müəyyən etməlidir.

Əgər AI-nin insanlardan daha ədalətli olmasını istəyiriksə, sadəcə ona daha çox məlumat vermək kifayət deyil. Biz ona yalnız statistikalarımızı deyil, dəyərlərimizi də öyrətməliyik.

AI obyektiv ola bilməz, əgər biz qərəzli qalırıqsa. Amma problemi qəbul etmək artıq onun həllinə doğru atılmış ilk addımdır — və bu, bu gün edə biləcəyimiz bir addımdır.