Данные и ИИ
Хранение и обработка данных, машинное обучение
Текстовый формат таблицы: строки файла — записи, значения в строке разделены запятыми (comma-separated values), первая строка часто хранит имена столбцов. Внутри — обычный текст без шрифтов, цвета и формул, поэтому CSV открывает любая программа и легко читает код. Плата за простоту: запятую или перенос строки внутри значения экранируют кавычками.
✗ «CSV — это файл Excel». Нет: CSV — простой текстовый формат, где ячейки строки разделены запятыми; Excel лишь один из способов его открыть, а таблица с формулами, шрифтами и цветом — это уже .xlsx.
Файл-контейнер (например, zip), где файлы лежат в сжатом виде. Архиватор находит в данных повторы и записывает их короче — это сжатие без потерь: при распаковке данные восстанавливаются в точности. Текст ужимается в разы, а фото и видео почти не ужимаются — они уже сжаты своими форматами.
✗ «При сжатии часть данных теряется». Нет: zip — сжатие без потерь: после распаковки файлы в точности такие же, какими были.
Хранилище структурированных данных, обычно — связанные таблицы: в одной ученики, в другой кружки, связь — кто куда записан. Управляет им СУБД: выполняет запросы на поиск и изменение, обслуживает много пользователей одновременно и охраняет целостность — записи не должны противоречить друг другу.
✗ «База данных — это просто большая таблица». Нет: БД — это связанные таблицы, а запросы многих пользователей выполняет отдельная программа — СУБД, следящая, чтобы данные не противоречили друг другу.
Данные, у которых объём, скорость поступления и разнообразие таковы, что одна машина с привычными программами их не обрабатывает. Работу делят между многими компьютерами. Ценность — закономерности всего массива: рекомендации, прогноз спроса, обучение моделей ИИ.
✗ «Большие данные — это просто очень много строк». Нет: главное — что привычные инструменты уже не справляются, а закономерности видны только на всём объёме; отсюда особые способы хранения и обработки.
Уверенный, но ложный ответ нейросети: она выдаёт выдуманные факты, ссылки или цитаты как настоящие. Это не поломка — модель не хранит правду, а продолжает текст самым правдоподобным образом, поэтому вымысел выглядит так же гладко, как истина. Отсюда правило: факты из ответа ИИ проверяют по надёжным источникам, особенно даты, имена и цифры.
✗ «Галлюцинация — это сбой или ошибка в данных». Нет: сеть работает штатно; она достраивает правдоподобный текст и выдаёт выдуманный факт так же уверенно, как верный, — поэтому проверять нужно любой ответ.
Программа с искусственным интеллектом: микрофон записывает речь, распознавание превращает её в текст, по тексту подбирается команда или ответ, синтез речи его озвучивает. Понимает не всё: лучше всего работают чёткие типовые просьбы.
✗ «Алиса живая и всё понимает». Нет: это программа — она узнаёт слова и подбирает подходящий ответ, но не думает и не чувствует.
Сведения, записанные так, что их можно хранить, передавать и обрабатывать. В компьютере любые данные — числа, текст, изображения, звук — закодированы нулями и единицами; как их понимать, задаёт программа. Данные приходят с датчиков, от человека, из сети.
✗ «Данные — это только числа». Нет: текст, фото, звук и видео — тоже данные; компьютер хранит их все одинаково — числами, а как понимать и обрабатывать — задаёт программа.
Набор данных для обучения и проверки модели машинного обучения: примеры плюс разметка — правильные ответы к ним. Датасет делят на обучающую и проверочную части, чтобы оценивать модель на незнакомых примерах. Ошибки разметки и перекос состава модель выучит как правду — качество набора важнее хитрости алгоритма.
✗ «Чем больше датасет, тем лучше модель, — остальное неважно». Нет: грязный или перекошенный набор портит модель при любом размере; важны разнообразие примеров и точность разметки.
Графическое представление данных для сравнения и поиска закономерностей. Основные виды: столбиковая — сравнение величин, круговая — доли целого, линейный график — изменение во времени. Вид выбирают под вопрос, на который нужно ответить.
✗ «Чем наряднее диаграмма, тем она лучше». Нет: диаграмма нужна, чтобы быстро сравнивать числа; объём и лишние украшения чтению только мешают.
Программы для задач, к которым не получается написать пошаговое правило. Вместо правил их настраивают на большом наборе примеров, и они учатся предсказывать ответ. Поэтому ИИ силён в задачах «узнать и подобрать» — речь, картинки, рекомендации — и ошибается там, чего в примерах не было.
✗ «ИИ думает и всё знает». Нет: это программа, которая ищет закономерности в данных и предсказывает подходящий ответ; смысла она не понимает и может уверенно ошибаться.
Область информатики о том, как программы извлекают сведения из изображений и видео: находят объекты, определяют их вид, положение и движение. Распознавание — одна из её задач; сюда же входят обнаружение объектов, слежение, измерение расстояний, чтение текста. Кадр для компьютера — таблица чисел-пикселей, и вся работа идёт с этими числами.
✗ «Компьютерное зрение — это камера с хорошим разрешением». Нет: камера лишь даёт пиксели; зрение — это программы, которые извлекают из пикселей смысл: где объект, что это и куда он движется.
Раздел искусственного интеллекта. Модель с настраиваемыми параметрами обучают на данных с известными ответами: параметры подбирают так, чтобы ошибка уменьшалась, потом проверяют на новых данных. Чем больше и разнообразнее примеры, тем лучше модель справляется с незнакомыми случаями.
✗ «Программа учится, как человек в школе». Нет: обучение здесь — автоматический подбор чисел-параметров, пока ответы на примерах не совпадут с правильными; понимания при этом не появляется.
Данные о данных: сведения, которые описывают файл или запись, но не входят в её содержимое. У фото это дата и место съёмки, модель камеры, размер; у документа — автор, даты создания и правки. Метаданные помогают искать, сортировать и упорядочивать файлы, а ещё выдают то, чего на самой картинке не видно, — поэтому их иногда специально удаляют.
✗ «Метаданные — это само содержимое файла». Нет: это данные о данных — когда и кем создан файл, его размер и формат, у фото — время и место съёмки; сама картинка или текст к ним не относятся.
Модель машинного обучения из слоёв простых элементов — «нейронов»: каждый умножает входные числа на свои веса и передаёт результат дальше. При обучении веса подстраивают, уменьшая ошибку на примерах. «Знания» сети — миллионы подобранных чисел, а не записанные правила.
✗ «Нейросеть — это робот или электронный мозг». Нет: это программа из множества простых вычислительных ячеек; с мозгом её роднит только название.
Отбор из набора данных элементов, подходящих под условие запроса. Простейший способ — перебор всех элементов подряд. В отсортированных данных ищут быстрее: список делят пополам и отбрасывают лишнюю половину. Так устроен поиск в таблице, по файлам и в поисковой системе.
✗ «Поиск — это только строка поиска в интернете». Нет: искать можно в любых данных — в файлах, таблицах, списках; везде один принцип — проверка элементов по условию запроса.
Текст запроса к модели ИИ. Рабочий промпт задаёт роль («ты — учитель физики»), задачу, нужный формат ответа и при необходимости примеры. Модель не читает мысли, а продолжает текст, поэтому ответ сильно зависит от формулировки; промпт обычно уточняют за несколько попыток.
✗ «ИИ сам догадается, что я имел в виду». Нет: модель видит только текст запроса, а недосказанное достраивает по похожим текстам — иногда совсем не так, как ты хотел.
Задача искусственного интеллекта: определить по данным — снимку, звуку, движению — какой из известных программе объектов перед ней. Программу настраивают на примерах с готовыми ответами; отвечает она с оценкой уверенности и ошибается на том, чего в примерах не встречалось.
✗ «Программа видит и понимает, что на фото, как человек». Нет: она сравнивает признаки с примерами, на которых её учили, и выбирает самый похожий ответ — поэтому уверенно ошибается на непривычном.
Преобразование текста в звук речи. Программа разбивает текст на мелкие звуки, подставляет их звучание и склеивает в непрерывную речь, добавляя ударения и интонацию. В отличие от набора заранее записанных фраз, синтез читает любой новый текст. Это задача, обратная распознаванию речи: там звук превращают в текст, здесь текст — в звук.
✗ «Компьютер просто проигрывает заранее записанные человеком слова». Нет: современный синтез строит звук по буквам и произносит любой новый текст — даже выдуманное слово, которого никто не записывал.
Перестановка элементов списка по ключу — числу, дате, алфавиту — по возрастанию или убыванию. Выполняет её алгоритм: компьютер много раз сравнивает пары элементов и меняет их местами. В таблице сортируют по столбцу-ключу, и строки переставляются целиком.
✗ «Сортировка — это разложить по кучкам, как мусор по бакам». В информатике сортировка — выстроить все элементы в один ряд по порядку признака; раскладывание по группам — другая задача.
Структура данных из строк и столбцов: строка — один объект, столбец — одно свойство, ячейка — значение. Раз все строки устроены одинаково, таблицу можно сортировать, искать в ней и считать итоги — на этом стоят электронные таблицы.
✗ «Таблица — это просто расчерченные клеточки». Нет: смысл в правиле — строка про один объект, столбец про одно свойство; именно поэтому в таблице легко искать и сравнивать.
Именованная порция данных на диске или флешке: текст, фото, программа. Расширение после точки (.png, .mp3) подсказывает, что внутри и какой программой это открыть. Файлы раскладывают по папкам; у каждого есть имя, размер и дата изменения.
✗ «Файл — это только текст или документ». Нет: файлом хранится всё, что есть в компьютере, — фото, музыка, игры и сами программы.
Отбор строк, которые удовлетворяют условию (значение больше, равно, содержит текст), с временным скрытием остальных. В электронной таблице фильтр не меняет и не удаляет данные — только показывает подходящие; несколько условий комбинируют через «и» и «или». Так из большого набора быстро находят нужное.
✗ «Фильтр удаляет лишние данные». Нет: фильтр только прячет строки, не подходящие под условие, и показывает подходящие; снимешь фильтр — все данные на месте.
Договорённость, как именно байты в файле кодируют картинку, звук или текст. Программа открывает только известные ей форматы; один и тот же рисунок в разных форматах имеет разный размер и качество. Расширение в имени — только подсказка: от переименования сами данные не меняются.
✗ «Расширение и есть формат: переименовал .png в .mp3 — картинка стала музыкой». Нет: формат — это устройство данных внутри файла, а расширение — лишь этикетка-подсказка.
Программа, ведущая диалог текстом. Сценарные боты ищут ключевые слова и ведут по дереву готовых ответов — так устроены боты магазинов и банков. Боты на основе искусственного интеллекта сами строят текст ответа, поэтому говорят свободно, но могут ошибаться.
✗ «Бот понимает тебя, как друг по переписке». Нет: отвечает программа — по готовому сценарию или предсказывая подходящий текст; своих мыслей и понимания у неё нет.