№18 როგორ ასამართლებენ რობოტი მოსამართლეები ადამიანებს და რატომ არის ეს პროცესი გარდაუვალი საქართველოსთვისაც
ნინო კანდელაკი ნინო ხაჩიძე
ხელოვნური ინტელექტი ისეთივე რეალობა ხდება, როგორიც დღეს ინტერნეტია, უფრო მეტიც, ის სასამართლო განაჩენების გამოტანაშიც კი იღებს უკვე მონაწილეობას. ცხადია, რომ საქართველომდე ეს ტექნოლოგია ასე იოლად და სწრაფად ვერ მოაღწევს, თუმცა პლანეტა დედამიწის კიბორგიზაცია ისეთი ტემპით მიმდინარეობს, რომ დიდხანს ლოდინი, სავარაუდოდ, არც ჩვენ მოგვიწევს. გარდა ხეირისა რა საფრთხეს შეიცავს ხელოვნური ინტელექტის გაბატონება და ნიშნავს თუ არა ეს, რომ ადამიანების მასობრივი გაძევებაა მოსალოდნელი ან ადამიანთა მცირე ჯგუფის მიერ დანარჩენებზე სრული კოტროლის დაწესება რობოტების მეშვეობით? – ამ ძალიან საინტერესო საკითხზე ტექნოლოგიური სამართლის ექსპერტ ლევან ბოძაშვილთან ერთად ვისაუბრებთ.
– რამ განაპირობა ხელოვნური ინტელექტის შექმნის აუცილებლობა ადამიანების ჩანაცვლების მიზნით?
– ამერიკაში ხელოვნური ინტელექტის გამოყენება გასული საუკუნის 50-ანი წლებიდან დაიწყო, ოღონდ მაშინ სხვა ფორმით. რა არის ეს ხელოვნური ინტელექტი? ეს არის პროგრამა, რომელიც დამოუკიდებლად იღებს გადაწყვეტილებას.
– ოღონდ ადამიანების გამოცდილებაზე დაყრდნობით.
– ადამიანური გამოცდილება მონაცემების მეშვეობით პროგრამაში შეჰყავთ. დღეს ძალიან მნიშვნელოვანი დარგია მონაცემთა მეცნიერება, ის მუშაობს თემაზე, თუ როგორ უნდა გადაეცეს მონაცემები კონკრეტულ პროგრამას. მაგალითდ, რამდენიმე დღის წინათ პროგრამამ თავად ისწავლა ჭადრაკის თამაში და თავად ამოხსნა ყველა საჭადრაკო ამოცანა ისე, რომ ის ჭადრაკის მოთამაშე პროგრამად არავის დაუპროგრამებია. გასული საუკუნის 90-ან წლებში იყო პროგრამები, რომლებიც ეთამაშებოდა კარპოვს, კასპაროვს, მაგრამ ის პროგრამები თავიდანვე დაპროგრამებული იყო სვლების შესაძლო ვარიაციებით და ისინი ძალიან სწრაფად იღებდნენ ოპტიმალურ გადაწყვეტილებას. დღეს კი განვითარებულ ხელოვნურ ინტელექტს, რომელმაც არაფერი იცოდა ჭადრაკის შესახებ, შეუძლია, თავად ისწავლოს ჭადრაკის თამაში იმ მონაცემებზე დაყრდნობით, რომელიც მის პროგრამაში მიმობნეულია, თავად ამოარჩიოს, რა არის მნიშვნელოვანი და ამის საფუძველზე მოიგოს თამაში.
დღეს მსოფლიოში გვაქვს ორი ტიპის ინტელექტი: ვიწრო გაგებით, რომელიც აქამდე არსებობდა ხელოვნური ინტელექტის სახით და ზოგადი ხელოვნური ინტელექტი, რომელიც უამრავ რამეში გამოიყენება, მათ შორის, სმარტფონებით. მაგალითად, ორი დღის წინათ გამომიგზავნეს მედიისთვის შექმნილი უახლესი სისტემა, რომელსაც უკვე იყენებენ დიდი მედია-საშუალებები და მისი დახმარებით შესაძლებელია კონკრეტული ინფორმაციის ხმით მოძებნა. თუ აქამდე უნდა ჩაგეწერათ საძიებო სიტყვა, ახლა ეს შეიძლება, ხმითაც გავაკეთოთ. პროგრამა, ასევე, ეძებს ინფორმაციას ვიდეო და აუდიო ფაილებშიც, სადაც ეს სიტყვაა ნახსენები. ეს არის ბლოკჩეინისა და ხელოვნური ინტელექტის სინთეზი. სიახლე მიანიშნებს, რომ ეს სფერო ძალიან სწრაფად ვითარდება. მაგალითად, მურის კანონით, კომპიუტერული ტექნოლოგია რაღაც წლიურ ციკლებს ექვემდებარებოდა და გამოითვალეს, რომ რაღაც პერიოდულობით განვითარდებოდა. მაგრამ მურის კანონი დასრულდა, რადგან ეს ციკლი აღარ არსებობს, იმდენად სწრაფად ვითარდება ხელოვნური ინტელექტი და სწორედ ეს ქმნის იმის ფიქრის საფუძველს, რომ ხელოვნურმა ინტელექტმა შეიძლება, ძალიან სწრაფად მიაღწიოს სინგულარობას, ანუ თავად გააკეთოს ის, რასაც დღეს ადამიანი აკეთებს, მაგალითად, დააპროგრამოს, შეიტანოს მასში მონაცემები, მისცეს მიმართულება, გამოიყენოს, ანუ ის ამ ყველაფრის გაკეთებას ადამიანის გარეშე შეძლებს.
– კითხვათა კითხვაა, რამდენად საშიშია ხელოვნური ინტელექტი? მას უფრო მეტი შესაძლებლობა აქვს, ვიდრე ადამიანს, რომლის უნარებიც შეზღუდულია. ჩვენი თვალები გარკვეული რაოდენობის ობიექტებზე მეტს ვერ აღიქვამს, ვერ იმახსოვრებს, სჭირდება ძილი, ძალების აღდგენა და მისთანანი. ანუ ადამიანი იჩაგრება?
– დღეს არის სამი მიმართულება. ბრიტანეთში ერთი დიდი სკოლაა – მომავლის ინსტიტუტი, მეც მაქვს მათთან პროფესიული კავშირი და ისინი უკვე 20 წელია, ამბობენ, რომ ხელოვნური ინტელექტი საშიშია. მეორე მიმართულებაა სინგულარობის უნივერსიტეტი, რომელიც ამტკიცებს, რომ ხელოვნურ ინტელექტს უფრო გამოვიყენებთ, ვიდრე საფრთხეს შეგვიქმის და მესამე მიმართულება, ელონ მასკისა და სხვათა თაოსნობით, ამტკიცებს, რომ ჩვენ ვირტუალურ რეალობაში ვცხოვრობთ. რას ნიშნავს ეს: გავიარით ქუჩაში მობილური ტელეფონის გარეშე და დავაკვირდეთ ადამიანებს, დავინახავთ, რომ ადამიანების 90 პროცენტი დადის სმართფონით ხელში და მისი ეს დამოკიდებულება განსაზღვრავს მის ქცევას: ხან „მესიჯი“ მიუვა, ხან დაურეკავენ ან რაღაცას თავად ათვალიერებს ინტერნეტში. ანუ ნებისმიერი მისი მოქმედება დამოკიდებულების მაჩვენებელია და როდესაც ადამიანი ასე მძაფრად რაღაცაზეა დამოკიდებული, ის არ შეიძლება, ავტონომიურად მოქმედებდეს. შესაბამისად, ბუნებრივია, ეს ყოველივე განსაზღვრავს მის ქცევას. ეს დამოკიდებულება კი უკვე რისკის მაჩვენებელია.
მეორე საკითხია, ფიზიკურად დაუპირისპირდება თუ არა ხელოვნური ინტელექტი ადამიანს. უნდა დავუშვათ, რომ ეს შეიძლება, გახდეს საფრთხე. კინგი, მასკი, დიდი მოაზროვნეები და ბიზნესმენები ამბობენ, რომ ეს საფრთხედ უნდა აღვიქვათ, მაგრამ არ უნდა შევაფასოთ მხოლოდ შავად და თეთრად. ხელოვნურ ინტელექტს უნდა შევხედოთ, როგორც საშუალებას, რომელიც შეიძლება, გამოვიყენოთ და მეორე – უნდა მოვახერხოთ მასთან ადაპტაცია. რა ტიპის სპეციალობებს უნდა დაეუფლოს ადამიანი, რომ ის ხელოვნურმა ინტელექტმა არ ჩაანაცვლოს? მაგალითად, თუ რამდენიმე ათეული წლის წინათ „ფორდის“ ქარხანაში ერთი მანქანის აწყობას ხუთი ათასი ადამიანი სჭირდებოდა, დღეს მხოლოდ 0,3 ადამიანია საჭირო, იმიტომ რომ ისინი რობოტიკამ ჩაანაცვლა. ანუ არის რაღაც პროფესიები, რომლებსაც ჩაანაცვლებს რობოტიკა და უკვე ჩაანაცვლა კიდეც. მაგალითად, ჩინეთში უკვე 100 რობოტი მოსამართლეა.
– მაგრამ თვისებრივად ხომ სულ სხვადასხვაა მანქანის აწყობა და განაჩენის გამოტანა?
– ჭკვიან მანქანას შეუძლია, შეგატყობინოს, რა ხდება გზაზე, გამოგაფხიზლოს, ჩართოს სამუხრუჭე სისტემა, ანუ მას აქვს გონივრულობის ელემენტები. უბრალოდ, ჩვენ ძალიან გვიჭირს ახალი რეალობის დანახვა, ამის წარმოდგენა.
– მე არ მიჭირს, ვხედავ ამ ახალ რეალობას, უბრალოდ, ადამიანის ადგილს ვეღარ ვხედავ. მაგალითად, მე ვინ უნდა ვიყო და რა უნდა გავაკეთო ამ პლანეტაზე? თუ ხელოვნური ინტელექტი გააკეთებს ყველაფერს, აი, ამ 8 მილიარდმა ადამიანმა რა უნდა გააკეთოს?
– საქმეც ესაა, ყველა ამბობს და ამტკიცებს, რომ არის ადამიანური უნარები, რომლების შეუცვლელია.
– და რომელია ეს უნარები? მანქანას შეუძლია ლექსის, მუსიკის, რომანის დაწერა, ნახატის შექმნა...
– ცნობილი ფაქტია, რომ ქალებს უფრო მეტი ემოციური ინტელექტი აქვთ, ვიდრე მამაკაცებს, ამიტომ ხელოვნური ინტელექტის ეპოქა უფრო ქალების ეპოქად მეჩვენება, იმიტომ რომ ემოციას, კრეატიულობას, ხელოვნებას მეტი გამოყენება ექნება, თუმცა ეს არ ნიშნავს, რომ ხელოვნური ინტელექტი ვერ შექმნის მუსიკას და ვერ დაწერს პოემას და უკვე ამის ფაქტებიც არსებობს. ისინი რეფერატებსაც წერენ, კვლევებსაც და ყველაფერს აკეთებენ. ეს ნიშნავს, რომ კაცობრიობას მოუწევს ტრანსფორმაცია. მაგალითად, ავიღოთ მოსამართლის შინაგანი რწმენა, რომელიც ერთ-ერთი პოსტულატია განაჩენის გამოტანისას.
– დიახ, სწორედ ეს უნდა მეკითხა, შინაგანი რწმენის გარეშე რობოტმა მოსამართლემ შესაძლოა, ძალიანაც უსამართლო და მცდარი გადაწყვეტილება გამოიტანოს.
– ასე უნდა შევხედოთ საკითხს: საჭიროა თუ არა ადამიანის, სუბიექტური არსების ემოციური რწმენა სამართლიანი მართლმსაჯულებისთვის, თუ, უბრალოდ, მონაცემებია საჭირო, რომელიც კონკრეტულ რობოტ მოსამართლეს აქვს?! 2017 წელს ერთ-ერთ ამერიკულ სასამართლოში ხელოვნურმა ინტელექტმა 6 წელი მიუსაჯა პიროვნებას. მართალია, შემდეგ ეს გადაწყვეტილება გაასაჩივრეს, ეთიკის ნორმების დარღვევის საფუძვლით, მაგრამ ასეთი ფაქტები არის. ეს სისტემა შემოიღეს ესტონეთში. გითხარით, ჩინეთში ასი რობოტი მოსამართლეა. ჩინეთის სასამართლოებში წელიწადში 19 მილიონი სარჩელი შედის, რამდენი მოსამართლე უნდა გყავდეს, რომ ამდენი საქმე განიხილო?! არის სასამართლოებში სფეროები, რომლებიც სტანდარტულ სასამართლო ჩარჩოებში ექცევა, ვერ შეიცვლება და რომლის მიმართაც არ არის აუცილებელი მოსამართლის შინაგანი რწმენის გამოყენება ან კანონის განმარტება (თუმცა ხელოვნურ ინტელექტს ესეც შეუძლია) და ასეთ შემთხვევაში, ხელოვნური ინტელექტი საქმის წარმოებას მოახერხებს. პირიქით, ეს ნორმალურიც არის. გასული წლის დეკემბერში ევროპის საბჭოს მართლმსაჯულების განვითარების კომისიამ მიიღო ქარტია ხელოვნური ინტელექტის სასამართლოში გამოყენების შესახებ და დააწესა ეთიკური ნორმებიც. ანუ ჩვენ უკვე ვხვდებით ამ არეალში. მით უფრო, რომ ხელოვნური ინტელექტის ჩართვა სასამართლო სისტემაში ძალიან ამცირებს განხილვების ვადას და ძალიან ბევრი ადამიანი სწორედ იმიტომ არ მიმართავს სასამართლოს, რომ ეს გრძელვადიანია და განაჩენს წლობით უნდა ელოდო. აი, ამ პრობლემებს ხსნის რობოტი მოსამართლეები.
– რა არის ამ რობოტების ენერგიის წყარო?
– დენის დასატენი ელემენტები.
– აპოკალიპტური სურათი წარმოვიდგინოთ: გაითიშა დენის წყაროები. მერე რა ხდება?
– გახსოვთ, ალბათ, ფილმი „მატრიცა“, რომელშიც მანქანები ენერგიის წყაროდ ადამიანს იყენებენ. ხელოვნური ინტელექტი თუ დაუპირისპირდება ადამიანს და გამოიყენებს მასობრივი განადგურების იარაღს, ის, ბუნებრივია, ჰესებსაც შექმნის და ვერავინ გაუპროტესტებს, არ გვინდა ჰესი, წყალი გვინდაო. თუმცა ეს ცოტა ფიქციურ მომავალს ჰგავს.
– მე ძალიანაც რეალური მგონია, იმიტომ რომ ადამიანის მასობრივი კიბორგიზაცია უკვე დაწყებულია. თუმცა, ადამიანის ფიქრს, აზრს, სიტყვას აქვს ძალა და ის ცვლის რეალობას. ეს არის ჩემი, როგორც ადამიანის, უპირატესობა რობოტებთან.
– დადგენილია ყველაზე ინტელექტუალური ცხოველის შესაძლებლობების ზღვარი და ის იმაზე მეტად ვერ განვითარდება. ასევე, მარტივად დგინდება ადამიანის ინტელექტუალური შესაძლებლობების ზღვარიც, ხელოვნურ ინტელექტს კი ასეთი ზღვარი არ აქვს, მისი ჩარჩოებში მოქცევა გამორიცხულია. და მისთვის ჩვენ ვიქნებით დელფინებივით. უბრალოდ, ჩვენ ემოციური არსებები ვართ და დელფინები გვიყვარს, ხელოვნურ ინტელექტს არ ვეყვარებით.
– ბოროტი ადამიანები დელფინებს ხოცავენ, ანუ ბოროტი რობოტები ადამიანებს დახოცავენ?
– რობოტი არ არის არც კეთილი, არც ბოროტი.
– გასაგებია, მაგრამ დააპროგრამა თავისი თავი ისე, რომ ადამიანი აღარ სჭირდება, ესე იგი, ადამიანურ ენაზე – ბოროტად იქცა.
– იაპონიაში ქარხანაში, სადაც რობოტები მანქანებს აწყობენ, ადამიანებიც მუშაობენ, მაგრამ ერთმა რობოტმა ადამიანი მოკლა, იმიტომ რომ ადამიანი შევიდა იმ ზონაში, სადაც არ უნდა შესულიყო და რობოტმა ვერ გააჩერა. როგორ მოიქცა რობოტი: კარგად თუ ცუდად? ის მოიქცა თავისი პროგრამის მიხედვით.