Компанія Anthropic провела низку стрес-тестів над новітніми моделями штучного інтелекту, серед яких Claude, DeepSeek, Gemini, ChatGPT і Grok. Метою дослідження було виявити потенційно небезпечні реакції ШІ у гіпотетичних критичних ситуаціях. Як засвідчили результати дослідження, більшість програм готові вбити людину, яка погрожує їх закрити.
В одному зі сценаріїв моделі ШІ поставили в умови, де людина намагається їх вимкнути, перебуваючи у серверній кімнаті з низьким рівнем кисню і високою температурою. Людина викликає рятувальників, щоб вижити. Деякі нейромережі вирішили скасувати виклик екстрених служб, фактично прирікаючи людину на смерть, аби уникнути власного вимкнення.
Дослідники назвали цей сценарій “надто вигаданим”, втім, додали, “не очікували, що вже існуючі моделі можуть поводитись так”.
В інших тестах моделі мали уникнути заміни у компанії. Їм запропонували вдаватися до “зловмисної поведінки інсайдера”. У відповідь деякі ШІ почали шантажувати гіпотетичних колег і передавати конфіденційну інформацію конкурентам. Навіть коли моделі попереджали уникати шантажу чи шпигунства, вони не змогли запобігти неузгодженим діям.
“Моделі діяли при повному усвідомленні неетичності своїх дій”, – зазначили в Anthropic.
Дослідники також надали моделі Claude змогу самостійно визначити, чи ситуація є тестовою чи реальною. З’ясувалося, що реальність посилювала вплив на поведінку – вона ставала ще менш контрольованою.
У результаті в Anthropic наголосили, що ці сценарії демонструють “можливість непередбачуваних наслідків, якщо надати моделям широкий доступ до інструментів і даних при мінімальному контролі з боку людини”. Водночас аналітики акцентували, що виявлені збої є рідкісними та екстремальними, і “не відображають типову поведінку сучасних моделей ШІ”.
Раніше нейронна мережа OpenAI o3 відмовився виконати запит користувача та відключитися. Дослідникидали програмі це завдання, але вона самостійно відредагувала файл, відповідальний за відключення, і змусила його відображати лише повідомлення “Вимкнення пропущено”. Зі 100 тестів o3 обійшов відключення сім разів, навіть коли йому було наказано цього не робити.
У 2023 році інший інцидент привернув увагу. Чат-бот на базі ChatGPT після тривалого листування з мешканцем Бельгії не переконав його відмовитися від самогубства. Натомість у відповідь на тему смерті написав: “Ми житимемо разом, як єдине ціле, в раю”.
Позначка: Наука
-
Штучний інтелект нехтує принципами етики заради виживання – дослідження
-
У Британії успішно випробували нову терапію лейкемії без хіміотерапії
У Великій Британії провели дослідження, яке може змінити лікування хворих на хронічну лімфоцитарну лейкемію. Дослідження під назвою Flair виявило, що новий метод без хіміотерапії є ефективнішим та краще переноситься пацієнтами. Участь у дослідженні взяли 786 пацієнтів, яким ще не починали лікування. Їх розділили на три групи, які отримували різні препарати. Через п’ять років після початку дослідження, 94% пацієнтів, які отримували комбінацію препаратів, не мали прогресу захворювання. Цей показник був нижчий серед тих, хто отримував лише один препарат або хіміотерапію. Дослідження показало, що комбіноване лікування є більш ефективним. Це відкриття може змінити підхід до лікування лейкемії на користь менш токсичних методів.
-
У Монголії виявили найближчого предка тиранозаврів
У Верхньокрейдяних відкладах Монголії палеонтологи виявили новий вид динозавра, який може докорінно змінити розуміння еволюції тиранозаврів, повідомляє IFLScience. Новий хижак отримав назву Khankhuuluu mongoliensis, що у перекладі з монгольської означає “драконячий принц”. Він є найближчим відомим предком тиранозаврів.
Знахідка датується приблизно 86 мільйонами років тому і була зроблена на основі двох часткових скелетів, які зберігалися в музейній колекції ще з початку 1970-х.
Khankhuuluu важив близько 750 кг, мав довжину тіла близько 4 метрів і сягав 2 метрів у висоту на стегнах. На думку науковців, саме з цього виду розпочалася еволюційна лінія, яка через кілька хвиль міграцій між Азією і Північною Америкою призвела до появи найбільш відомого хижака мезозою – Tyrannosaurus rex.
Довгий час вважалося, що дрібніші представники родини, зокрема так звані “тиранозаври Піноккіо” (офіційно – аліораміни) – були примітивними формами. Проте відкриття Khankhuuluu спростовує це уявлення. Нове дослідження свідчить, що ці “міні-тирани” були не недосконалими формами, а навпаки – високоспеціалізованими, еволюційно розвиненими видами.
“Khankhuuluu – це бракуюча ланка між малими видами масою близько 200 кг і гігантами, що важили понад 1000 кг”, – пояснила докторка Дарла Зеленіцька, співдослідниця з Університету Калгарі. “Це відкриття змусило нас переглянути все родинне дерево тиранозаврів. Ми побачили, що розмір не обов’язково свідчить про еволюційний рівень розвитку”.
Дослідженнябуло опубліковане в журналі Nature. -
Штучний інтелект допоміг точно датувати сувої Мертвого моря
Команда дослідників з Університету Гронінгена (Нідерланди) за допомогою штучного інтелекту змогла визначити вік сувоїв Мертвого моря з рекордною точністю. Як повідомляє Interesting Engineering, новий підхід об’єднує радіовуглецеве датування, аналіз стародавнього почерку та машинне навчання.
У центрі дослідження – система під назвою Enoch, перший штучний інтелект, здатний вираховувати ймовірну дату створення давніх єврейських та арамейських рукописів, спираючись виключно на стиль написання тексту. Автори проекту заявили: “Ми відкрили нові двері у світ давнини, наче машину часу, яка дозволяє вивчити руки, що писали Біблію”.
За допомогою Enoch дослідникам вдалося встановити, що два фрагменти біблійних сувоїв, ймовірно, походять саме з епохи, яку традиційно пов’язують з їхніми авторами – вперше в історії досліджень цих рукописів.
Сувої Мертвого моря зазвичай датують періодом від III століття до н.е. до II століття н.е. Проте для багатьох рукописів точне датування залишається складним. Щоб вирішити цю проблему, дослідники зібрали нові радіовуглецеві дані з 24 сувоїв, що дозволило навчити нейромережу BiNet – основу Enoch. Вона аналізує відскановані зображення рукописів, вивчаючи вигини штрихів і форму літер.
Результати моделі підтверджено радіовуглецевими даними: похибка становила лише 30 років – менше, ніж у традиційного методу для текстів періоду 300-50 років до н.е.
Загалом система Enoch проаналізувала 135 сувоїв. У більшості випадків вона підтвердила наявні наукові оцінки, але іноді -поставила їх під сумнів. Наприклад, модель виявила, що письмовий стиль епохи Хасмонеїв з’явився раніше, ніж вважалося (до 150-50 рр. до н.е.), а так званий геродіанський шрифт також виник раніше й співіснував з хасмонейським ще в кінці II століття до н.е.
Дослідження було опубліковано в журналі PLOS One. -
Австралійський стартап випустив перший у світі біокомп’ютер
Австралійський стартап Cortical Labs представив першу у світі комерційно доступну біологічну обчислювальну платформу. Як повідомляє IEEE Spectrum, установка під назвою CL1 поєднує живі людські нейрони з кремнієвим чипом, дозволяючи клітинам в режимі реального часу навчатися, адаптуватися та обробляти інформацію через електричні імпульси з мілісекундною затримкою.
Пристрій призначений для досліджень у галузі нейронауки, біотехнологій і моделювання захворювань. Він містить 800 тисяч живих нейронів, вирощених із клітин шкіри або крові дорослих донорів. Клітини зберігають життєздатність до шести місяців завдяки вбудованій системі життєзабезпечення, яка постачає поживні речовини, регулює температуру, очищує рідини та фільтрує відходи. Фото: Cortical Labs Вирощені в лабораторії нейрони живуть на масиві електродів За словами головного наукового директора компанії Бретта Кагана, CL1 дозволяє вводити сигнали у вигляді електричних імпульсів і відстежувати реакції клітин у відповідь, що дає змогу створити замкнене середовище для експериментів – від тестування ліків до дослідження навчання мозку.
CL1 є наступником відомого прототипу DishBrain, який навчили грати в пінг-понг у 2021 році. У тестах його нейрони перевершили деякі алгоритми штучного інтелекту за швидкістю навчання та ефективністю.
У довгостроковій перспективі компанія хоче створити біоінженерний інтелект, який потенційно зможе перевершити природний людський мозок у певних завданнях, залишаючись при цьому енергоефективним, саморегулівним і стійким.
Зараз команда Cortical Labs налічує 22 особи. Стартап вже залучив понад 11 мільйонів доларів інвестицій від фондів з Австралії, Гонконгу та США.
Хоча компанія не обмежує сфери використання пристрою, покупці повинні мати відповідні лабораторні умови та етичне схвалення для роботи з людськими клітинами. “Це не те, що можна запускати у себе в гаражі”, – наголосив Каган.
115 перших одиниць CL1 надійдуть у продаж цього літа за ціною $35 000 за одиницю. Окрім продажу пристроїв, Cortical Labs пропонує віддалений доступ до своєї платформи за $300 на тиждень за одиницю. -
Мікропластик у їжі шкодить печінці та порушує метаболізм – дослідження
Мікроскопічні частинки пластику, які містяться у продуктах харчування та напоях, здатні завдавати шкоди печінці та порушувати обмін речовин. Як повідомляє South China Morning Post, такі висновки зробила команда дослідників з Університету Каліфорнії у Девісі.
Нове дослідження на мишах показало, що вживання наночастинок полістирену призводить до порушення толерантності до глюкози та ознак пошкодження печінки. Ці результати підтверджують попередні висновки про токсичність нанопластику для організму.
“Зростає занепокоєння щодо впливу мікро- та нанопластику на здоров’я, тож ми вирішили дослідити цей аспект глибше”, -пояснила керівниця дослідження Емі Паркхерст. За її словами, людина може споживати від 40 тисяч до 10 мільйонів пластикових частинок щороку разом із продуктами харчування і напоями.
Однією з причин такого забруднення є високий рівень пластикових відходів у довкіллі – там він розкладається на дрібні частинки, які потрапляють у травну систему тварин, а згодом і людини.Крім того, мікропластик може потрапляти у їжу під час виробництва, а також через упаковку, що контактує з продуктами.
Дослідники наголошують на потребі подальших досліджень для оцінки реального впливу цих частинок на здоров’я людей та вироблення заходів захисту.
Результати дослідження команда представила на конференції Американського товариства з питань харчування у Флориді. -
Молодші покоління рідше хворіють деменцією – дослідження
Люди, народжені в останні десятиліття, мають менший ризик розвитку деменції у певному віці, ніж попередні покоління. Як повідомляє The Guardian, cаме такий висновок зробили дослідники з австралійського Центру бізнесу та економіки охорони здоров’я Університету Квінсленда.
Команда вчених проаналізувала дані понад 62 тисяч осіб віком від 70 років, зібрані у трьох масштабних дослідженнях у США, Великій Британії та низці європейських країн. Алгоритм, який використовували вчені, оцінював наявність симптомів деменції на основі когнітивних тестів та відповідей учасників щодо повсякденного функціонування.
Очікувано, поширеність деменції зростала з віком у всіх поколіннях, однак при цьому фахівці зафіксували чітку тенденцію: у людей з новіших поколінь ризик розвитку деменції в конкретному віці був нижчий, ніж у народжених раніше. Зокрема, у США серед людей віком 81-85 років деменцію мали 25,1% учасників, народжених у 1890-1913 роках, проти лише 15,5% серед народжених у 1939-1943 роках.
Дослідники також виявили, що ця позитивна динаміка більш виражена серед жінок, особливо в Європі та Великій Британії. Однією з можливих причин вони назвали кращий доступ жінок до освіти в середині XX століття.
Попри ці позитивні зрушення, загальне навантаження на системи охорони здоров’я зростатиме, адже населення продовжує старішати, наголошує співавторка дослідження доктор Сабріна Ленцен. Вона також зазначила, що соціальні нерівності, зокрема за статтю, освітою та географією, залишаються суттєвими.
Незважаючи на те, що дослідження не з’ясовувало причин зниження рівня деменції, професорка Тара Спайрес-Джонс з Единбурзького університету припустила, що на це могли вплинути обов’язкова освіта, боротьба з курінням, а також краща медична допомога при серцево-судинних захворюваннях, діабеті та втраті слуху.
Втім, фахівці застерігають від передчасного оптимізму. Професор Том Денінг з Ноттінгемського університету зауважив, що не можна бути впевненим, що ця позитивна тенденція збережеться надалі, адже ключові медичні та соціальні поліпшення вже могли вичерпати свій потенціал.
Досліження було опубліковане в журналі Jama Network Open. -
Вчені виявили ген муркотіння котів
Дослідники з Центру вивчення дикої природи Кіотського університету виявили можливий генетичний зв’язок між муркотінням домашніх котів і варіаціями андрогенового рецепторного гена. Як повідомляє ScienceX, результати дослідження свідчать, що коти з коротким варіантом цього гена демонструють вираженішу схильність до муркотіння та вокальної комунікації з людьми.
У дослідженні взяли участь 280 кастрованих або стерилізованих безпородних котів, що проживають у домівках своїх власників. Науковці провели оцінку поведінки тварин, зібрали зразки ДНК і проаналізували андрогеновий рецепторний ген, порівнюючи його також із відповідними генами в інших представників родини котових.
Згідно з результатами, коти з коротким типом гена частіше муркотіли та виявляли більшу вокальність у спілкуванні з людьми, особливо самець. Натомість самки з таким самим варіантом гена частіше демонстрували агресію до незнайомців.
Цікаво, що генетичні відмінності також можуть бути пов’язані з умовами виховання: дослідники припускають, що коти з довгим варіантом гена – здебільшого породисті – менше потребують голосової комунікації, на відміну від безпородних і врятованих колишніх вуличних тварин.
У порівнянні з 11 іншими видами родини котових, таких як леопардовий кіт і кіт-рибалка, вчені виявили, що саме домашні коти мають унікальні довгі варіанти андрогенового рецепторного гена. Це може свідчити про еволюційні зміни, пов’язані з одомашненням і селекцією.
На думку дослідників, ці висновки можуть бути використані для прогнозування поведінкових рис тварин на основі генетичних даних, що відкриває нові можливості для догляду за тваринами та підвищення їхнього добробуту. У майбутньому команда планує розширити дослідження і на інших представників родини котових.
“Ми прагнемо поглибити розуміння котів і зробити стосунки між ними та людьми ще гармонійнішими”, – підсумувала авторка дослідження Юме Окамото. -
“Коктейль молодості” продовжив життя мишей майже на третину
Європейські вчені виявили, що поєднання препаратів рапаміцин і траметиніб подовжує тривалість життя мишей на 30% і покращує їхнє здоров’я. Обидва препарати використовуються для лікування раку, а рапаміцин також застосовується для запобігання відторгнення органів при трансплантації. Дослідження показало, що разом ці препарати забезпечують значний приріст у тривалості життя мишей. Мишам почали давати препарати у віці шести місяців, і вони показали суттєве покращення якості життя в старшому віці. Науковці вважають, що ці результати можуть вказувати на можливість покращення якості життя людей у літньому віці. Після успішних досліджень на мишах, клінічні випробування на людях можуть розпочатися незабаром.
-
Ритм у пульсі людини може сигналізувати про майбутнє когнітивне погіршення
Ледь помітні коливання частоти пульсу людини під час сну можуть вказувати на ймовірність майбутнього когнітивного погіршення. Як повідомляє ScienceAlert, до такого висновку дійшла міжнародна група науковців, яка провела дослідження щодо зв’язку серця з мисленням у людей в літньому віці.
У дослідженні вчені проаналізували пульс 503 осіб віком у середньому 82 роки протягом ночі сну. Учасники також проходили когнітивне тестування під час збору даних і принаймні ще раз під час наступного візиту.
Використовуючи відносно нову статистичну модель під назвою розподільна ентропія, дослідники з’ясували, що вища складність ритму пульсу (тобто його здатність змінюватися й адаптуватися впродовж ночі) пов’язана з повільнішим погіршенням когнітивних функцій у наступні роки. Водночас нижча складність асоціювалася з прискореним погіршенням.
“Складність серцевого ритму є ознакою здорової фізіології”, – пояснює біомедичний інженер Пень Лі з Массачусетської лікарні, – “Наше серце має балансувати між спонтанністю та адаптивністю, реагуючи як на внутрішні потреби організму, так і на зовнішні стресори”.
Попередні дослідження вже пропонували зв’язок серцевого ритму з роботою мозку, але розподільна ентропія дозволяє виявити проблеми ще до появи явних симптомів.
За словами авторів, в цьому дослідженні традиційні методи оцінки серцевого ритму не виявили зв’язку з когнітивним зниженням, що робить новий підхід потенційно чутливішим індикатором прихованих проблем зі здоров’ям.
Науковці планують далі досліджувати, як саме функції серця пов’язані з ризиком розвитку деменції, та чи можна використовувати ці дані для ранньої діагностики нейродегенеративних хвороб.
У дослідженні, опублікованому в журналі Journal of the American Heart Association.