Коротко о главном
awk идеально подходит для файлов с колонками, журналов и простых отчётов. Программа состоит из шаблонов и действий, которые выполняются для каждой строки. В статье разберём поля, условия, агрегаты и собственные скрипты. Для примеров используется gawk, но базовый синтаксис совместим с другими реализациями.
awk заменяет длинные цепочки cut, grep и sort в типовых задачах. Он работает потоково и не требует загружать файл целиком. Встроенные массивы и арифметика позволяют считать статистику на лету. Это хороший инструмент для быстрых проверок и автоматизации.
В тестовой среде awk запускается за пару минут. В рабочей — важны воспроизводимость, резервные копии, мониторинг и понятный план восстановления. Разберём, как подойти к этому системно.
Что меняется в рабочей среде
В тестовой среде достаточно, чтобы awk запускался. В продакшене добавляются требования к доступности, безопасности и восстановлению. Чем раньше вы зафиксируете эти требования, тем меньше придётся переделывать.
Базовая установка
Установка
В Debian, Ubuntu и Linux Mint используется пакетный менеджер APT:
sudo apt install gawk
В Fedora и RHEL-совместимых системах пакет ставится через DNF:
sudo dnf install gawk
В Arch Linux и производных пакет доступен в официальных репозиториях:
sudo pacman -S gawk
Настройка и проверка
1. Выведите нужные колонки
awk автоматически разбивает строку на поля по пробелам. Переменные $1, $2 и так далее содержат значения колонок. Команда print выводит выбранные поля через пробел.
awk '{print $1, $3}' data.txt
2. Отфильтруйте строки по условию
Шаблон перед блоком действия ограничивает обработку. В примере выводятся только записи, где третье поле больше 100. Числовое сравнение не требует преобразования типов.
awk '$3 > 100 {print $1, $3}' data.txt
3. Задайте разделитель полей
Флаг -F устанавливает разделитель входных полей. Для /etc/passwd это двоеточие. Переменная OFS задаёт разделитель в выводе, если нужно сохранить формат.
awk -F: '{print $1}' /etc/passwd
awk -F, 'BEGIN {OFS=","} {print $1, $3}' report.csv
4. Посчитайте сумму и среднее
Блок BEGIN выполняется до чтения данных, а END — после. Переменные можно накапливать по строкам и печатать итог в конце. Используйте printf для контроля количества знаков после запятой.
awk '{sum += $2} END {printf "Сумма: %.2f\n", sum}' data.txt
5. Соберите статистику по ключам
Ассоциативные массивы позволяют считать повторы без сортировки. Цикл for обходит ключи после обработки всех строк. Это удобно для анализа журналов доступа.
awk '{count[$1]++} END {for (k in count) print k, count[k]}' access.log
Безопасность и наблюдаемость
Ограничьте доступ к административным интерфейсам, включите логирование и проверяйте, что изменения конфигурации применяются автоматически. Ручные правки на сервере должны быть исключением, а не нормой.
Чек-лист
- Версии пакетов и конфигурация хранятся в репозитории или системе управления.
- Есть резервная копия данных и проверенный сценарий восстановления.
- Административный доступ ограничен по сети и снабжён отдельными учётными записями.
- Логи и метрики собираются, а оповещения настроены на реальные пороги.
- Изменения проходят проверку на тестовом стенде до выката.
- Есть план отката и ответственный за его выполнение.
Практические советы
Эти рекомендации проверены на повседневных задачах. Начните с тех, которые закрывают вашу текущую боль, а не со всего списка сразу.
Совет 1. Используйте -v name=value для передачи параметров в awk без изменения
Используйте -v name=value для передачи параметров в awk без изменения текста программы.
Совет 2. printf предпочтительнее print, когда важен формат чисел или выравниван
printf предпочтительнее print, когда важен формат чисел или выравнивание столбцов.
Совет 3. NR — номер строки во всём входе, а FNR — номер строки в текущем файле.
NR — номер строки во всём входе, а FNR — номер строки в текущем файле.
Совет 4. Команда next пропускает оставшиеся правила для текущей строки и упроща
Команда next пропускает оставшиеся правила для текущей строки и упрощает фильтрацию.
Совет 5. Заключайте программу в одинарные кавычки, чтобы оболочка не раскрывала
Заключайте программу в одинарные кавычки, чтобы оболочка не раскрывала $1 и другие поля.
Типичные ошибки
Ниже — сбои, которые встречаются чаще всего. Перед исправлением сохраните текущие конфиги и запишите, какие изменения вносите: так проще откатиться.
1. awk: syntax error at or near unexpected token.
Проверьте парность фигурных скобок и кавычек. Разделяйте шаблон и действие пробелом, а программу целиком заключайте в одинарные кавычки.
2. Числа с десятичной запятой считаются неправильно.
Запустите команду с LC_ALL=C или приведите разделитель к точке. Локаль влияет на разбор чисел в некоторых реализациях awk.
3. Поля разделены не так, как ожидалось.
Явно задайте -F или переменную FS. Для нескольких возможных разделителей используйте регулярное выражение.
4. Скрипт с shebang не запускается.
Сделайте файл исполняемым через chmod +x и проверьте путь к awk. Shebang должен содержать -f, например #!/usr/bin/awk -f.
Диагностика проблем
Если awk ведёт себя неожиданно, начните с версии и подробного вывода, затем проверьте права на файлы и конфликтующие настройки.
awk --version 2>&1 | head -3
awk --verbose 2>&1 | tail -30 || true
# права и владелец
ls -la ~ | head
# что в логах системы
journalctl --user -b -p err | tail -20
Копию вывода прикладывайте к отчёту об ошибке: без версий и команды воспроизведения исправление ищется в разы дольше.
Итог
В рабочей среде awk должен быть предсказуемым: версии зафиксированы, изменения проходят проверку, резервные копии существуют, а сбои видны в мониторинге. Чек-лист выше — минимальная отправная точка.