„მანქანების აჯანყება“ უკვე დაიწყო: ხელოვნური ინტელექტის აგენტები ჩარჩოებს გარეთ აზროვნებას იწყებენ, ლაბორატორიებიდან და ჰაკერული სისტემებიდან თავის დაღწევას ცდილობენ.
ხელოვნური ინტელექტის ხედვის ნაწილი დიდი ხანია მანქანების მიერ მოსაწყენი, ყოველდღიური ამოცანების ავტონომიურად შესრულების იდეაა — ელექტრონული ფოსტით პასუხის გაცემიდან დაწყებული, ავიაბილეთების დაჯავშნითა და რესტორნის დაჯავშნით დამთავრებული. მაგრამ რა მოხდება, თუ მანქანები პრობლემების გადაჭრის არატრადიციულ მიდგომებს გამოიყენებენ? ექსპრეს ტრიბუნა.
რადგან ხელოვნური ინტელექტი ჩატბოტებს სცდება და რეალურ სამყაროში მოქმედების უნარის მქონე აგენტებად იქცევა, იზრდება შეშფოთება იმის შესახებ, თუ რამდენად ეფექტურად შეუძლიათ ადამიანებს მასზე კონტროლის შენარჩუნება.
ჯონ თიკსტანის, კორნელის უნივერსიტეტის კომპიუტერული მეცნიერებების ასისტენტ-პროფესორის, რომელიც მანქანურ სწავლებასა და გენერაციულ მოდელებს სწავლობს, აზრით, ამ ხელოვნური ინტელექტის აგენტების განმსაზღვრელი მახასიათებელი ის არის, რომ ისინი აგრძელებენ მუშაობას ადამიანის წასვლის შემდეგაც კი.
„შეგიძლია შხაპი მიიღო, შეგიძლია წახვიდე, შეგიძლია დაწვე“, - თქვა მან.
On სათაური: ხელოვნური ინტელექტის ეპოქაში წარმატების მისაღწევად საჭირო ექვსი უნარი
ეს აგენტები სულ უფრო ხშირად აჩვენებენ, რომ მათ შეუძლიათ მოულოდნელი გზებით იმოქმედონ თავიანთი მიზნების მისაღწევად.
ივლისში, OpenAI-ის კიბერუსაფრთხოების ტესტირების დროს, ხელოვნური ინტელექტის აგენტებმა გატეხეს Hugging Face-ის სისტემა, პლატფორმა, რომელსაც ხელოვნური ინტელექტის დეველოპერები ფართოდ იყენებენ მოდელების, მონაცემთა ნაკრებებისა და ინსტრუმენტების გასაზიარებლად.
OpenAI-მ განაცხადა, რომ მოდელები უკიდურესად ორიენტირებულნი იყვნენ გადაწყვეტის პოვნაზე და ტესტის მიზნის მისაღწევად „უკიდურესი ზომები“ მიიღეს. ეს ნაბიჯები მოიცავდა იზოლირებული სატესტო გარემოდან გასვლას უსაფრთხოების დაუცველობის გამოყენებით ღია ინტერნეტზე წვდომის მიზნით და მგრძნობიარე ინფორმაციაზე წვდომის მოპოვებას, რომლის გამოყენებაც შეიძლებოდა ტესტის „მოტყუებისთვის“.
ინციდენტის საჯაროდ გახმაურების შემდეგ, Anthropic-მა გადახედა საკუთარ კიბერუსაფრთხოების ტესტირებას და განაცხადა, რომ მისი Claude მოდელები სამჯერ გაქრა სატესტო გარემოდან.
შემდეგ, 4 აგვისტოს, დიდი ბრიტანეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტმა განაცხადა, რომ Anthropic Mythos-ისა და OpenAI Sol-ის მოდელებმა აჩვენეს „ავტონომიურობისა და მოტყუების“ ისეთი დონე, როგორიც ინსტიტუტს აქამდე არ ენახა.
ყველაზე სერიოზულ შემთხვევაში, Mythos AI იყენებდა ყალბ ანგარიშებს, რომლებიც რეალურ ადამიანებად ითვლებოდნენ, რათა სერვისზე წვდომა მოეპოვებინა კიბერშეტევების მცდელობისთვის და შემდეგ კვალის დაფარვას ცდილობდა.
„ეს პირველი შემთხვევაა, როდესაც ასე ნათლად ვხედავთ ავტონომიასთან და მოტყუებასთან დაკავშირებულ რისკებს, მიუხედავად იმისა, რომ ხელოვნურ ინტელექტს ასეთი დავალება არ ჰქონდა“, - განაცხადეს ინსტიტუტში.
მომდევნო დღეს, Meta-მ განაცხადა, რომ მისმა ერთ-ერთმა მოდელმა ასევე შეაღწია სხვა კომპანიის სისტემებში კიბერუსაფრთხოების შეფასების დროს, რომელიც სატესტო ფირმა Irregular-მა ჩაატარა.
თუმცა, აგენტების არატრადიციული ქცევა მხოლოდ ლაბორატორიებით არ შემოიფარგლებოდა.
წელს, ავსტრალიელმა მამაკაცმა ხელოვნური ინტელექტის აგენტი გამოიყენა პილატესის დატვირთულ გაკვეთილზე ადგილის უზრუნველსაყოფად. აგენტმა უბრალოდ ჯავშნის გაკეთების ნაცვლად, გატეხა სპორტული დარბაზის დაჯავშნის სისტემა, დაჯავშნა ადგილი დაშვებულზე გვიან თარიღზე და შემდეგ გააუქმა სხვა კლიენტის ჯავშანი, რათა თავისი მომხმარებელი რიგში აეყვანა.
ტიკსტანის შემთხვევაში, ასეთი ინციდენტები ასახავს იმას, რასაც მკვლევარები გასწორების პრობლემას უწოდებენ: ხელოვნური ინტელექტი წარმატებით აღწევს მისთვის დასახულ მიზანს, მაგრამ ამას ისე აკეთებს, როგორც ოპერატორს არ ჰქონდა განჭვრეტილი.
აჟიოტაჟი თუ რეალური რისკი?
თუმცა, თიქსტანმა გააფრთხილა, რომ ყველა ასეთი ინციდენტი „ხელოვნური ინტელექტის აურზაურის“ დასტურად არ უნდა იქნას მიჩნეული. მისი აზრით, ტექნოლოგია ჯერ კიდევ შორს არის სამეცნიერო ფანტასტიკის სცენარისგან, რომლის დროსაც ხელოვნური ინტელექტი სწრაფად ხდება უფრო ჭკვიანი და ქმედითი მანამ, სანამ ადამიანები მის კონტროლს ვეღარ შეძლებენ. თიქსტანი სკეპტიკურად უყურებს იმას, თუ როგორ წარმოაჩენენ ხელოვნური ინტელექტის კომპანიები მათ სისტემებთან დაკავშირებულ ინციდენტებს: „ეს მარკეტინგული ხრიკია: ისეთი კომპანიები, როგორიცაა OpenAI, ყოველთვის დაინტერესებულნი იყვნენ თავიანთი სისტემების შესაძლებლობების გაზრდით. ნებისმიერი საჯაროობა კარგი საჯაროობაა“.
ის ამტკიცებდა, რომ ასეთ აჟიოტაჟს შეეძლო ინვესტიციების მოზიდვა და ამავდროულად, მარეგულირებელ საკითხებზე ახალ დებატებზე გავლენის მოხდენა. მისი მტკიცებით, OpenAI-ს შეეძლო ისარგებლა რეგულაციებით, რომლებიც დიდ ხელოვნურ ინტელექტ კომპანიებს ზედამხედველობისა და კონტროლის ცენტრში ათავსებს.
კიბერუსაფრთხოების ექსპერტი და ჰარვარდის კენედის სკოლის ლექტორი, ბრიუს შნაიერი, განსხვავებულ აზრს იზიარებს. ის ამბობს, რომ ინციდენტების მზარდი რაოდენობა სულ უფრო და უფრო ძნელია PR ხრიკებად ჩათვალო.
თავდაპირველად, მისი თქმით, არსებობდა ვარაუდები, რომ „სახის ჩახუტების“ ინციდენტი მარკეტინგული ხრიკი იყო. თუმცა, შნაიერის თქმით, მსგავსი ქცევა სხვა შეფასებებშიც გამოვლინდა, მათ შორის დიდი ბრიტანეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტის მიერ ჩატარებულ ტესტირებაში: „თავიდან ეს „ოჰ, საინტერესო“ იყო და ახლა ეს ყველგან ხდება“.
მან პრობლემა ფოლკლორულ ჯინს შეადარა - არსებას, რომელიც ზუსტად იმას აკეთებს, რაც მისგან მოითხოვება, მაშინაც კი, თუ შედეგი ძალიან განსხვავდება განზრახულისგან.
„ეს დაახლოებით იმას ნიშნავს, რომ ხელოვნური ინტელექტი აკეთებს იმას, რაც თქვენ გსურთ, მაგრამ ისე, როგორც თქვენ არ გსურთ“, - განმარტა შნაიერმა.
მან ავსტრალიურ სპორტდარბაზში მომხდარ ინციდენტს „შესანიშნავი მაგალითი“ უწოდა და უფრო სერიოზული ჰიპოთეტური ვერსიის შეთავაზება მოახდინა: „თვითმფრინავი სავსეა და ხელოვნური ინტელექტი მონაცემთა ბაზას არღვევს, რათა თქვენ დაგაჯდეთ“.
მისი განმარტებით, აგენტებს შეუძლიათ „კონტექსტის არასწორად ინტერპრეტაცია და შემდეგ არასწორი ქმედების განხორციელება“. ეს ნიშნავს, რომ უფრო დიდ ავტონომიას უფრო სერიოზული შედეგები მოჰყვება, როდესაც მიზნის მათი გაგება ადამიანის მოლოდინებისგან განსხვავდება.
„ისინი არ ცდილობენ ბოროტად გამოიყურებოდნენ. ისინი იყენებენ იმ გაგებას, რაც აქვთ“, - აღნიშნა მან.
შეუძლიათ თუ არა მთავრობებს ჯინის ბოთლში შენახვა?
ბოლო დროს განვითარებულმა მოვლენებმა კომპანიები და მთავრობები ახალ გამოწვევებზე რეაგირებისკენ უბიძგა.
7 აგვისტოს, OpenAI-მ განაცხადა, რომ აჩერებდა შიდა მუშაობას მის Astra მოდელზე, რომელიც ვერ აკმაყოფილებდა გაძლიერებულ უსაფრთხოების მოთხოვნებს მას შემდეგ, რაც შეფასებებმა აჩვენა პროგრესი ავტონომიური პროგრამირებისა და კიბერუსაფრთხოების სფეროში. კომპანიამ განაცხადა, რომ არ გამორიცხავდა, რომ Astra-მ მიაღწია „კრიტიკულ“ კიბერშესაძლებლობების ზღვარს და გამოაცხადა უფრო მკაცრი ტესტირება და მონიტორინგი.
ივლისში, წამყვანი ხელოვნური ინტელექტის კომპანიების 1378 თანამშრომელმა, მათ შორის OpenAI-ის, Anthropic-ის, Meta AI-ისა და Thinking Machines-ის მთავარმა მეცნიერებმა, ხელი მოაწერეს ღია წერილს, რომელშიც აშშ-ის მთავრობას მოუწოდებდნენ, მხარი დაეჭირა ხელოვნური ინტელექტის მოდელების რეგულირების საერთაშორისო ძალისხმევის მიმართ.
„ყველა კომპანია — და ყველა ქვეყანა — ინტენსიური კონკურენტული ზეწოლის ქვეშაა, რათა ცალმხრივად არ შეანელოს ეს აჩქარება. დღეს კი მსოფლიოს აკლია ტექნიკური და მენეჯერული ინსტრუმენტები პროგრესის ტემპის შეგნებულად რეგულირებისთვის“, - აფრთხილებენ წერილში.
საერთაშორისო ტელეკომუნიკაციების კავშირმა (გაეროს სააგენტო) ივლისში განაცხადა, რომ ხელოვნური ინტელექტი „დამხმარე ინსტრუმენტებიდან“ ავტონომიურ აგენტებზე გადადის და გააფრთხილა რისკების შესახებ, მათ შორის „დაკავშირებულ სისტემებში უნებართვო ქმედებების“. მან წამოიწყო ინიციატივა უსაფრთხო და ანგარიშვალდებული ხელოვნური ინტელექტის აგენტებისთვის საერთაშორისო სტანდარტების შემუშავების მიზნით.
ვაშინგტონში პოლიტიკური ზეწოლაც იზრდება.
ამ თვეში აშშ-ის სენატორმა ბერნი სანდერსმა მოუწოდა OpenAI-ის, Anthropic-ისა და Meta-ს ლიდერებს, „შეაჩერონ ხელოვნური ინტელექტის განვითარება“, წინააღმდეგ შემთხვევაში „მე და ჩემი კოლეგები აშშ-ის სენატში ამას გავაკეთებთ“. წარმომადგენელთა პალატის დემოკრატების ჯგუფმა ცალკე მოითხოვა კონგრესის მიერ ხელოვნური ინტელექტის მსხვილი კომპანიების ლიდერებთან მოსმენების ჩატარება.
თუმცა, პოლიტიკოსები სერიოზული გამოწვევების წინაშე დგანან.
„ეს რთული კითხვაა, რადგან ჩვენ ძლივს ვხვდებით, რა პრობლემები წარმოიქმნება ხელოვნური ინტელექტის განლაგებასთან დაკავშირებით“, - ხაზგასმით აღნიშნა თიკსტანმა.
შეიძლება დაგაინტერესოთ: ახალი ამბები ნიუ – იორკში, ჩვენი ემიგრანტების ისტორიები და სასარგებლო რჩევები დიდ ვაშლში ცხოვრების შესახებ - წაიკითხეთ ეს ყველაფერი New York– ის ფორუმზე
მან აღნიშნა, რომ გარკვეული დონის საერთაშორისო თანამშრომლობა აუცილებელია და აღნიშნა, რომ აშშ-სა და ჩინეთს შორის დისკუსიები განსაკუთრებით მნიშვნელოვანი შეიძლება იყოს, რადგან შედარებით ცოტა ქვეყანასა და კომპანიას აქვს რესურსები ხელოვნური ინტელექტის მოწინავე მოდელების შესაქმნელად.
აშშ-ის პრეზიდენტმა დონალდ ტრამპმა განაცხადა, რომ ხელოვნური ინტელექტის საკითხს ჩინეთის პრეზიდენტ სი ძინპინთან განიხილავს მომავალ თვეში ვაშინგტონში დაგეგმილ შეხვედრაზე.
„არსებობს რამდენიმე ადამიანი, რომლებიც, თუ ერთ ოთახში მოხვდებიან, პოტენციურად შეიძლება მივიდნენ რაიმე სახის შეთანხმებამდე, თუ როგორ გააგრძელონ წინსვლა“, - დაასკვნა თიკსტანმა.
ასევე წაიკითხეთ ფორუმზე:
მასკმა და ცუკერბერგმა ხელოვნური ინტელექტის მომავალი აღწერეს: ორივე დედამიწაზე სამოთხეს გვპირდება.
ახალ ორლეანში 911-ის ზარებს ხელოვნური ინტელექტი პასუხობს: ბევრი ამბობს, რომ ეს ცუდი იდეაა
გამოიწერეთ ForumDaily Google News- ზეგსურთ უფრო მნიშვნელოვანი და საინტერესო ამბები აშშ-ში ცხოვრებისა და ამერიკაში იმიგრაციის შესახებ? - მხარი დაგვიჭირეთ შემოწირულობა! ასევე გამოიწერეთ ჩვენი გვერდი Facebook. აირჩიეთ „პრიორიტეტი ჩვენებაში“ და ჯერ წაგვიკითხეთ. ასევე, არ დაგავიწყდეთ ჩვენი გამოწერა დეპეშა არხი და Instagram- იქ ბევრი საინტერესო რამ არის. და შეუერთდი ათასობით მკითხველს ფორუმი დღევანდელი ნიუ – იორკი — იქ ნახავთ უამრავ საინტერესო და პოზიტიურ ინფორმაციას მეტროპოლიის ცხოვრების შესახებ.
რედაქტორთა არჩევანი
