Искусственный интеллект: прошлое, настоящее, будущее
Одной из главных проблем, стоящих на пути промышленного внедрения ИИ на основе машинного обучения, стало существование т.н. «атак» на нейронные сети. Возможность таких атак определятся тем, что, в отличие от обычного ПО, содержательные алгоритмы обработки данных в глубоких нейронных сетях представляют собой не инструкции на каком-либо языке программирования, а наборы обученных коэффициентов (большие массивы чисел). Поэтому несанкционированные изменения в структуре ГНС не могут быть выявлены стандартными средствами контроля и анализа ПО… Подробнее
