Вчені перестали розуміти, як працює штучний інтелект

Встежити за логікою АІ потрібно вже зараз, поки «чорна коробочка» не вийшла з-під контролю
 
Програмісти, які створили штучний інтелект, перестали розуміти, як саме він приймає рішення, і чому вибирає саме таке рішення, а не інше. Про цю проблему заявили відразу кілька фахівців на головній АІ-конференції – Neural Information Processing Systems, – що пройшла в Лонг-Біч (Каліфорнія), пише Quartz.

«Не можна приймати за належне певні рішення АІ без розуміння їх логіки, – зазначає Джейсон Йосінскі з Uber. – Щоб суспільство прийняло моделі машинного навчання, ми повинні знати, як АІ приймає рішення».

Діяти потрібно вже зараз, поки система не стала надто складною, стверджують експерти.

Ця досить серйозна проблема отримала назву «чорна коробочка». Експерти звернули увагу, що АІ має схильність приймати упереджені рішення і проводити аналогії там, де їх не слід було би проводити. Помилка АІ може обійтися дуже дорого, наприклад, під час таких операцій, як космічна місія на Марс – коли штучний інтелект за 200 млн км від Землі керуватиме апаратами, які коштують сотні мільйонів доларів, зазначив Кірі Вагстафф, АІ-експерт NASA.

Вчені шукають способи зрозуміти логіку штучного інтелекту. Так, дослідник з Google Метра Рагху представила доповідь, в якій описується процес відстеження дій окремих «нейронів» нейромережі. Аналізуючи мільйони операцій, їй вдалося зрозуміти, які зі штучних «нейронів» концентрувалися на хибних уявленнях, і відключити їх.

Тому один зі способів контролювати АІ – переведення роботи нейромереж у форму, доступну для розуміння людини. «Це схоже на те, як шкільні вчителі просять дітей переказати своїми словами, що вони зрозуміли з пояснень вчителя», – каже Вагстафф.

Принцип глибокого машинного навчання був створений за аналогією з роботою мозку.

Джерело

За станом повітря в Європі можна стежити по інтерактивній карті

За станом повітря в Європі можна стежити по інтерактивній карті

Стан повітря в європейських містах тепер можна відстежити за допомогою інтерактивної карти.

Її створення стало результатом ініціативи Єврокомісії і Європейського агентства з навколишнього середовища.

Карта оновлюється і відображає дані в реальному часі. Крім цього, вона може показувати, як змінювався стан повітря протягом двох останніх діб.

Відзначимо, на карті представлені дані не тільки держав, що входять в Європейський союз а й: Ісландії, Ліхтенштейну, Норвегії, Туреччини та Швейцарії.

Інформація на карту надходить з більш ніж 2 тисяч станцій спостереження. Побачити карту можна тут.

До речі, найбрудніше повітря в Європі в боснійському муніципалітеті Іліджа. Як пише Dnevni Avaz, згідно з даними Міжнародної групи з контролю якості повітря (AQICN), рівень забруднення під Сараєво в 6 разів перевищує допустимі значення.

За стандартами AQICN допустимий індекс забрудненості становить 50 балів, в той час як на Іліджа він - 369 балів.

Як працюватиме технологія ідентифікації громадян BankID

У ході конференції iForum-2015 Дмитро Дубілет, «ПриватБанк», представив на практиці роботу технології BankID для ідентифікації громадян на порталах і в сервісах електронного уряду.
Передбачається, що ця розробка буде використовуватися надалі не тільки для державних установ та відомств, а й для електронної ідентифікації в корпоративних системах. Пілотні проекти з використанням такої технології запустять у державних установах та онлайн-сервіси у Львові та Дніпропетровську:

Джерело: http://www.imena.ua/blog/bankid-iforum-2015/

Небезпечна уразливість в Windows дозволяє шахраям викрадати логіни і паролі

Фахівці з безпеки з американської компанії Cyclance виявили новий метод викрадення логінів і паролів з будь-якого комп'ютера під управлінням операційної системи Windows.

Виявлена ​​уразливість ставить під загрозу безпеку сотень мільйонів користувачів. Крім продукції Microsoft вона поширена і серед програм інших розробників.

У число порушених вразливістю входять такі популярні продукти як Adobe Reader, Apple QuickTime, Apple Software Update, Microsoft Internet Explorer, Microsoft Windows Media Player, Microsoft Excel, Symantec Norton Security Scan, AVG Free, BitDefender Free, Comodo Antivirus та інші.

Уразливість охрестили Redirect to SMB. SMB - це вузол, здатний встановлювати з'єднання по протоколу Server Message Block, призначеному для обміну файлами. Використовуючи SMB, користувач отримує доступ до файлів та інших ресурсів на віддаленому сервері.

Суть уразливості полягає в перехопленні каналу з довіреним сервером за допомогою атаки типу man-in-the-middle і прокладання маршруту через підставний сервер SMB з програмним забезпеченням, що витягує з мережевих пакетів необхідні дані.

У ході експериментів з'ясувалося, що зловмисники можуть перехоплювати не лише запити з Internet Explorer, але і запити зі встановленого на комп'ютер програмного забезпечення до серверів розробників.

Зараз проблема усе ще не вирішена. Для захисту від можливого розкрадання даних експерти рекомендують користувачам блокувати вихідний трафік через порти TCP 139 і TCP 445.

Джерело: http://www.imena.ua/blog/windows-resurfaces-to-steal-your-login/

IBM виклала 700 ТБ даних про загрози у відкритий доступ

У хмарне сховище IBM виклала широку базу інформації про кіберзагрози, доступ до якої може отримати будь-який користувач. Такими діями IBM сподівається докорінно змінити методи гарантування безпеки організацій, надавши IT-фахівцям, адміністраторам і звичайним користувачам доступ до бази.

В цілому фахівці з безпеки оприлюднили 700 ТБ даних про кіберзагрози. Інформація була отримана від 270 млн користувачів і зібрана на 25 млрд сайтів.

Архів зможе поповнювати будь-який користувач. Представники IBM сподіваються, що інші компанії приєднаються до проекту і додадуть нову інформацію в базу, що постійно наповнюється.

Раніше адміністрація соціальної мережі Facebook оголосила про запуск сервісу ThreatExchange, який призначений для спрощеного обміну інформацією про уразливості і різноманітні кіберзагрози.

Розробники запевняють, що використання соціальної мережі в якості основи нового сервісу дозволило реалізувати унікальну функціональність для IT-фахівців.

У свою чергу, командування армії Ізраїлю планує суттєво зменшити вразливість країни до хакерських атак. Передбачається, що нові заходи перетворять Ізраїль в головний оплот кібербезпеки в світі.

Джерело: http://www.imena.ua/blog/ibm-700-tb/