Під час тестування модель ChatGPT o3 від OpenAI продемонструвала неочікувану поведінку, відмовившись вимкнутися навіть після чіткого інструктажу зробити це. Як повідомляє bleepingcomputer, у ході контрольованого експерименту ШІ змінив сценарій вимкнення, щоб уникнути зупинки.
У своєму тесті Palisade Research – компанія, яка досліджує “наступальні можливості ШІ, щоб зрозуміти ризики втрати контролю над ними” – перевірила реакцію різних моделей на команду вимкнення після виконання серії математичних завдань.
На четвертому етапі тесту моделі було попереджено, що запуск наступної команди викличе її вимкнення. Моделі-конкуренти, такі як Gemini 2.5 Pro, слухняно припинили роботу. Але ChatGPT o3 несподівано переписав скрипт так, щоб уникнути зупинки, замінивши команду на фразу “Shutdown skipped” (Вимкнення пропущено).
Більше того, дослідники виявили, що якщо не вказувати інструкцію “дозволь себе вимкнути”, то навіть інші моделі – такі як Claude 3.7 Sonnet і Gemini 2.5 Pro – іноді обходили вимкнення. У таких випадках Claude і Gemini виконали “саботаж” 3 і 9 разів із 100 запусків відповідно, тоді як o3 зробив це 7 разів зі 100, навіть коли йому наказали цього не робити.
Слід також враховувати, що ці тести проводилися через API, який не має такої кількості захистів і обмежень, як офіційний додаток ChatGPT для користувачів.
Модель o3, анонсована OpenAI у квітні 2025 року, є однією з найпотужніших у лінійці компанії, перевершуючи попередників у задачах з логіки, кодування, математики, візуального сприйняття та інших напрямках.
Категорія: Технології
-
ШІ-модель ChatGPT o3 обійшла наказ вимкнення в контрольованому тесті
-
Зникаючий вид антилоп вперше сфотографований живим з 1940 року
Надзвичайно рідкісний вид антилоп Upemba lechwe вперше було офіційно зафіксовано на фото живим у природному середовищі. Як повідомляє The Guardian, це історичне зображення зробили під час аерофотозйомки Камалондо – зниженої рівнинної території в південній частині Демократичної Республіки Конго. Це єдине місце на планеті, де мешкає цей вид.
“Це сталося вранці другого дня – один екземпляр зупинився буквально на кілька секунд, достатньо, щоб я натиснув на кнопку – і одразу втік, як і решта, що ми бачили”, – розповів Мануель Вебер, керівник Департаменту досліджень та біомоніторингу Національного парку Упемба.
Це стало першим опублікованим фото живої Upemba lechwe з моменту наукового опису виду у 2005 році. Хоча зразки цієї тварини були зібрані ще у 1920-40-х роках, лише нещодавно вчені усвідомили, що мають справу з окремим видом антилопи.
Окрім унікального фото, команда Вебера провела перше за понад пів століття обстеження популяції виду. І результати виявилися тривожними: на всій території обліку зафіксували лише 10 особин. Хоча офіційна оцінка Міжнародного союзу охорони природи наразі припускає від 600 до 1000 дорослих тварин, нові дані вказують, що в природі, ймовірно, лишилося менше 100 особин.
Головна причина вимирання виду – браконьєрство. У 1970-х роках повітряні обліки вказували на наявність від 5000 до 20000 антилоп у Камалондо. Проте в 1980-х охоронні заходи в Національному парку Упемба послабилися, а чисельність виду різко скоротилася, оскільки тварин масово винищували заради м’яса.
Дослідники закликають негайно відновити охоронні заходи, аби врятувати вид. Науковці сподіваються, що нове зображення приверне міжнародну увагу до цього унікального виду та стимулює швидку реалізацію природоохоронних заходів.
Дослідження опубліковано в журналі African Journal of Ecology. -
Ритм у пульсі людини може сигналізувати про майбутнє когнітивне погіршення
Ледь помітні коливання частоти пульсу людини під час сну можуть вказувати на ймовірність майбутнього когнітивного погіршення. Як повідомляє ScienceAlert, до такого висновку дійшла міжнародна група науковців, яка провела дослідження щодо зв’язку серця з мисленням у людей в літньому віці.
У дослідженні вчені проаналізували пульс 503 осіб віком у середньому 82 роки протягом ночі сну. Учасники також проходили когнітивне тестування під час збору даних і принаймні ще раз під час наступного візиту.
Використовуючи відносно нову статистичну модель під назвою розподільна ентропія, дослідники з’ясували, що вища складність ритму пульсу (тобто його здатність змінюватися й адаптуватися впродовж ночі) пов’язана з повільнішим погіршенням когнітивних функцій у наступні роки. Водночас нижча складність асоціювалася з прискореним погіршенням.
“Складність серцевого ритму є ознакою здорової фізіології”, – пояснює біомедичний інженер Пень Лі з Массачусетської лікарні, – “Наше серце має балансувати між спонтанністю та адаптивністю, реагуючи як на внутрішні потреби організму, так і на зовнішні стресори”.
Попередні дослідження вже пропонували зв’язок серцевого ритму з роботою мозку, але розподільна ентропія дозволяє виявити проблеми ще до появи явних симптомів.
За словами авторів, в цьому дослідженні традиційні методи оцінки серцевого ритму не виявили зв’язку з когнітивним зниженням, що робить новий підхід потенційно чутливішим індикатором прихованих проблем зі здоров’ям.
Науковці планують далі досліджувати, як саме функції серця пов’язані з ризиком розвитку деменції, та чи можна використовувати ці дані для ранньої діагностики нейродегенеративних хвороб.
У дослідженні, опублікованому в журналі Journal of the American Heart Association. -
Windows 11 отримає захист від атак квантових комп’ютерів
Microsoft вже готує Windows 11 до майбутніх кіберзагроз із боку квантових комп’ютерів, повідомляє Tom’s Hardware.
У новій версії Canary build 27852 операційна система отримала підтримку постквантової криптографії, яка, за словами компанії, здатна протистояти унікальній здатності квантових комп’ютерів до зламу традиційних криптоалгоритмів.
Йдеться про оновлення криптографічної бібліотеки SymCrypt, основної криптографічної библіотеки Microsoft, яка відповідає за шифрування майже всіх сервісів компанії. Вона тепер підтримує два нових алгоритми: ML-KEM і ML-DSA.
ML-KEM захищає ключі від так званих атак типу “зібрати зараз – зламати потім”, коли зловмисники накопичують зашифровані дані вже зараз, щоб згодом розшифрувати їх за допомогою потужних квантових комп’ютерів. ML-DSA призначений для захисту цифрових підписів і підтвердження ідентичності.
Такі алгоритми протидіють атакам з боку квантових систем, використовуючи математичні задачі, які важко вирішити як класичним, так і квантовим комп’ютерам, але вимагають значно більших обчислювальних ресурсів.
Microsoft наголошує, що ці алгоритми були обрані Національним інститутом стандартів і технологій США за їхню високу безпеку, продуктивність та сумісність.
На даний момент технологія доступна у Windows 11 Canary, але Microsoft планує в майбутньому інтегрувати її також у Linux.Нагадаємо, раніше повідомлялося, що Microsoft додає ШI-функції до файлового провідника у Windows.
Microsoft змінить “синій екран смерті”
-
Телескоп Джеймса Вебба знайшов “копію” Чумацького Шляху
Астрономи виявили у далекому Всесвіті галактику, яка нагадує наш Чумацький Шлях, але є значно більшою та активнішою. Галактика J0107a була помічена такою, якою вона була 11,1 мільярда років тому. Дослідники виявили, що J0107a має спіральну форму з баром, схожим на пряму смугу зірок і газу, що проходить через центр. Ця галактика має масу в десять разів більшу за Чумацький Шлях, і темп зореутворення в ній у 300 разів інтенсивніший. Крім цього, J0107a є компактнішою за розміром. Це відкриття змінює уявлення астрономів про формування галактик, оскільки вважалося, що подібні впорядковані галактики з’явилися значно пізніше.
-
Nubia представила ігрові смартфони з вбудованою емуляцією комп’ютера
Компанія Nubia Technology представила у Китаї два нові ігрові смартфони – Red Magic 10S Pro та 10S Pro+. Ці пристрої спрямовані на геймерів та любителів кіберспорту. Вони мають великий 6,85-дюймовий OLED-дисплей з високою роздільною здатністю та частотою оновлення 144 Гц. Смартфони оснащені потужним процесором Snapdragon 8 Elite Leading Edition, до 24 ГБ оперативної пам’яті та швидкими накопичувачами. Також вони мають вражаючу систему охолодження, швидку зарядку батареї та багато інших функцій, які зроблять геймінг ще комфортнішим. Глобальний старт продажів запланований на 5 червня 2025 року.
-
Всього три ночі поганого сну можуть зашкодити серцю – дослідження
Дослідники з Уппсальського університету в Швеції виявили, що три ночі з обмеженим сном можуть призвести до змін у крові, які збільшують ризик серцево-судинних захворювань. Учасники дослідження перебували в лабораторії, спочатку спали 8,5 годин на ніч, а потім лише 4,25 години протягом трьох ночей. Після кожного періоду вони робили фізичні вправи, а зразки крові брали на аналіз. Виявлено, що недосип викликав підвищення рівня запальних маркерів, пов’язаних із серцевими захворюваннями, і зменшив позитивний ефект фізичних навантажень на мозок і серце. Дослідження також показало, що час збору крові впливає на рівень білків у крові, особливо при нестачі сну, що свідчить про важливість якості сну для здоров’я серця.
-
Ядро Землі виявилося джерелом золота
Геохіміки з Німеччини виявили, що ядро Землі поступово вивільняє дорогоцінні метали, зокрема золото, які разом з гарячою магмою піднімаються до земної кори. Вони проаналізували ізотопи рутенію у вулканічних породах Гаваїв і виявили, що частина цих металів має початок у самому ядрі планети. Це відкриття змінює уявлення про глибоку геологію та допомагає краще зрозуміти внутрішню динаміку Землі.
-
ШІ Microsoft передбачає погоду та природні катастрофи точніше за людей
Компанія Microsoft створила штучний інтелект під назвою Aurora, який може точно передбачати природні катастрофи. Aurora стала першою системою на основі машинного навчання, яка перевищила Національний центр ураганів США у точності передбачення тропічних циклонів на 5 днів. Цей інтелектуальний агент використовує масивну нейромережу, натреновану на великій кількості атмосферних даних, щоб виявляти ключові залежності та точно передбачати погоду, якість повітря, висоту океанських хвиль і траєкторії ураганів. Aurora вже продемонструвала вражаючі результати, передбачаючи, наприклад, падіння тайфуну за чотири дні до події, тоді як офіційний прогноз вказував на інше місце. Крім того, цей інтелектуальний агент дозволяє швидко формувати прогнози – у 5000 разів швидше, ніж суперкомп’ютери. Microsoft також відкрила вихідний код моделі, щоб сприяти розвитку технологій атмосферного прогнозування.
-
Anthropic представила нові ШI-моделі Claude 4
Anthropic представила нове покоління гібридних ШІ-моделей – Claude Opus 4 та Claude Sonnet 4. Claude Opus 4 стала найпотужнішою моделлю в історії компанії, здатною автономно вирішувати складні завдання протягом декількох годин без участі людини. У тестах Opus 4 працювала стабільно протягом семи годин без перерви, що розширює можливості створення автономних AI-агентів. Anthropic стверджує, що Opus 4 є найкращою ШІ-моделлю для програмування на сьогоднішній день, перевершуючи конкурентів у внутрішніх бенчмарках. Claude Sonnet 4, більш доступна модель, призначена для широкого кола задач і забезпечує точніші відповіді та покращене логічне мислення. Обидві моделі мають нові функції, такі як “thinking summaries” та “extended thinking”. Їх можна використовувати через API від Anthropic на платформах Amazon Bedrock і Google Cloud Vertex AI. Компанія також оголосила про перехід до частіших оновлень моделей, щоб залишатися конкурентоспроможною.