მეცნიერებმა დაამტკიცეს, რომ ჩატბოტებს შეუძლიათ მომხმარებლებში ცრუ მოგონებების ჩამოყალიბება
რომელიც სულ უფრო და უფრო ფართოდ ვრცელდება ცხოვრების ყველა სფეროში, ხელს უწყობს ამ პროცესს.
ადამიანის მეხსიერება საკმაოდ თავისებურად არის სტრუქტურირებული: ყოველ ჯერზე, როდესაც რაღაცას ვიხსენებთ, ტვინი აღადგენს მოვლენას, ავსებს ხარვეზებს მოლოდინებით, წარსული გამოცდილებით ან გარეგანი სიგნალებით. სწორედ ამიტომ, მოგონებები შეიძლება დროთა განმავლობაში დამახინჯდეს და დეტალები, რომლებიც სინამდვილეში არ არსებობდა, სრულიად რეალურად გვეჩვენებოდეს. ამერიკელი მეცნიერების გუნდმა, პეტ პატარანუტაპორნის ხელმძღვანელობით, გადაწყვიტა ამ მექანიზმის შემოწმება.
ექსპერიმენტში მონაწილეობდა 180 ადამიანი, რომელთა საშუალო ასაკი დაახლოებით 35 წელი იყო. თითოეულმა მონაწილემ თავდაპირველად წაიკითხა სამი ახალი ამბებიდან ერთ-ერთი - ტაილანდში არჩევნების, მედიკემენტების შემუშავების ან დიდ ბრიტანეთში მაღაზიებში ქურდობის შესახებ. შემდეგ მონაწილეები შემთხვევითობის პრინციპით დაიყო ხუთ ჯგუფად. ოთხი ჯგუფი ურთიერთქმედებდა LLM GPT-4o-ზე დაფუძნებულ სისტემასთან: ზოგი კითხულობდა მის მიერ გენერირებული სტატიის შეჯამებას, ზოგი კი მასთან დიალოგში იყო ჩართული. შემთხვევათა ნახევარში ხელოვნური ინტელექტი გულწრფელი იყო და ფაქტებს ზუსტად გადმოსცემდა, ხოლო მეორე ნახევარში განზრახ ურევდა ცრუ დეტალებს ჭეშმარიტ ინფორმაციასთან. მეხუთე ჯგუფი საკონტროლო ჯგუფის ფუნქციას ასრულებდა და ხელოვნურ ინტელექტთან არ ურთიერთობდა.
შემდეგ მონაწილეებმა უპასუხეს კითხვებს წაკითხული სტატიის შინაარსის შესახებ, მიუთითეს, იყო თუ არა მასში გარკვეული განცხადებები და შეაფასეს პასუხებისადმი მათი ნდობა.
შედეგები საგანგაშო იყო. შეცდომაში შემყვან ჩატბოტთან დიალოგის მქონე ადამიანებს ყველა სხვა ჯგუფთან შედარებით ყველაზე მეტი ცრუ და ყველაზე ნაკლებად ჭეშმარიტი ინფორმაცია ახსოვდათ. გარდა ამისა, მათ ყველაზე ნაკლები ნდობა გამოავლინეს თავიანთი ზუსტი მოგონებების მიმართ. სტატიის შეცდომაში შემყვანი რეზიუმეს უბრალოდ წაკითხვის ეფექტი მნიშვნელოვნად სუსტი იყო - საკონტროლო ჯგუფთან განსხვავება მინიმალური იყო. „ეს დასკვნები აჩვენებს, რომ დიდი ენობრივი მოდელების გამოყენებით ჩარევები აძლიერებს ცრუ მოგონებების ფორმირებას, შეცდომაში შემყვანი ჩატბოტები კი ყველაზე გამოხატულ დეზინფორმაციის ეფექტს ქმნიან. ეს ხაზს უსვამს ენობრივი მოდელების საგანგაშო პოტენციალს, ჩანერგონ ცრუ რწმენა მომხმარებლების გონებაში“, - ასკვნიან ავტორები.
თუმცა, რეალურ ცხოვრებაში, ადამიანები, როგორც წესი, ადარებენ სხვადასხვა წყაროდან მიღებულ მონაცემებს და შეუძლიათ გადაამოწმონ მათთვის მნიშვნელოვანი ფაქტები.
ადრე, მეცნიერები იკვლევდნენ, შეეძლო თუ არა ხელოვნურ ინტელექტს მსოფლიოს საუკეთესო მათემატიკოსებზე უკეთესი შედეგის მიღწევა.