Коротко о главном
awk идеально подходит для файлов с колонками, журналов и простых отчётов. Программа состоит из шаблонов и действий, которые выполняются для каждой строки. В статье разберём поля, условия, агрегаты и собственные скрипты. Для примеров используется gawk, но базовый синтаксис совместим с другими реализациями.
awk заменяет длинные цепочки cut, grep и sort в типовых задачах. Он работает потоково и не требует загружать файл целиком. Встроенные массивы и арифметика позволяют считать статистику на лету. Это хороший инструмент для быстрых проверок и автоматизации.
Чтобы уверенно пользоваться awk, полезно понимать, как он устроен внутри. Разберём ключевые компоненты, конфигурацию и диагностику — без пересказа документации.
Как это устроено
awk состоит из нескольких взаимодействующих частей: конфигурации, рабочего процесса и данных, с которыми он работает. Понимание этой схемы помогает предсказывать поведение системы и быстрее находить причину сбоя.
awk заменяет длинные цепочки cut, grep и sort в типовых задачах. Он работает потоково и не требует загружать файл целиком. Встроенные массивы и арифметика позволяют считать статистику на лету. Это хороший инструмент для быстрых проверок и автоматизации. Именно поэтому настройка через переменные окружения и конфигурационные файлы предпочтительнее ручных правок «на месте».
Ключевые компоненты и их взаимодействие
1. Выведите нужные колонки
awk автоматически разбивает строку на поля по пробелам. Переменные $1, $2 и так далее содержат значения колонок. Команда print выводит выбранные поля через пробел.
awk '{print $1, $3}' data.txt
2. Отфильтруйте строки по условию
Шаблон перед блоком действия ограничивает обработку. В примере выводятся только записи, где третье поле больше 100. Числовое сравнение не требует преобразования типов.
awk '$3 > 100 {print $1, $3}' data.txt
3. Задайте разделитель полей
Флаг -F устанавливает разделитель входных полей. Для /etc/passwd это двоеточие. Переменная OFS задаёт разделитель в выводе, если нужно сохранить формат.
awk -F: '{print $1}' /etc/passwd
awk -F, 'BEGIN {OFS=","} {print $1, $3}' report.csv
4. Посчитайте сумму и среднее
Блок BEGIN выполняется до чтения данных, а END — после. Переменные можно накапливать по строкам и печатать итог в конце. Используйте printf для контроля количества знаков после запятой.
awk '{sum += $2} END {printf "Сумма: %.2f\n", sum}' data.txt
5. Соберите статистику по ключам
Ассоциативные массивы позволяют считать повторы без сортировки. Цикл for обходит ключи после обработки всех строк. Это удобно для анализа журналов доступа.
awk '{count[$1]++} END {for (k in count) print k, count[k]}' access.log
6. Сохраните программу в файл
Для сложной логики удобно хранить awk-программу отдельно. Shebang с -f позволяет запускать файл как обычный скрипт. Переменная FS задаёт разделитель, а NR > 1 пропускает заголовок.
#!/usr/bin/awk -f
BEGIN { FS = "," }
NR > 1 { total += $3 }
END { printf "Total: %.2f\n", total }
Диагностика и тонкая настройка
Начинайте с журналов и проверки версии. Затем изолируйте проблему: конфигурация, права доступа, сеть или данные. Не меняйте несколько параметров одновременно — иначе невозможно понять, что именно помогло.
Практические советы
Эти рекомендации проверены на повседневных задачах. Начните с тех, которые закрывают вашу текущую боль, а не со всего списка сразу.
Совет 1. Используйте -v name=value для передачи параметров в awk без изменения
Используйте -v name=value для передачи параметров в awk без изменения текста программы.
Совет 2. printf предпочтительнее print, когда важен формат чисел или выравниван
printf предпочтительнее print, когда важен формат чисел или выравнивание столбцов.
Совет 3. NR — номер строки во всём входе, а FNR — номер строки в текущем файле.
NR — номер строки во всём входе, а FNR — номер строки в текущем файле.
Совет 4. Команда next пропускает оставшиеся правила для текущей строки и упроща
Команда next пропускает оставшиеся правила для текущей строки и упрощает фильтрацию.
Совет 5. Заключайте программу в одинарные кавычки, чтобы оболочка не раскрывала
Заключайте программу в одинарные кавычки, чтобы оболочка не раскрывала $1 и другие поля.
Типичные ошибки
Ниже — сбои, которые встречаются чаще всего. Перед исправлением сохраните текущие конфиги и запишите, какие изменения вносите: так проще откатиться.
1. awk: syntax error at or near unexpected token.
Проверьте парность фигурных скобок и кавычек. Разделяйте шаблон и действие пробелом, а программу целиком заключайте в одинарные кавычки.
2. Числа с десятичной запятой считаются неправильно.
Запустите команду с LC_ALL=C или приведите разделитель к точке. Локаль влияет на разбор чисел в некоторых реализациях awk.
3. Поля разделены не так, как ожидалось.
Явно задайте -F или переменную FS. Для нескольких возможных разделителей используйте регулярное выражение.
Что улучшить после базовой настройки
Когда awk работает предсказуемо, следующий шаг — наблюдаемость. Добавьте проверку состояния, которая отвечает на вопрос «жив ли сервис», и метрику, показывающую нагрузку. Без этого вы узнаёте о проблеме от пользователей, а не от системы.
Второе направление — воспроизводимость. Опишите установку и конфигурацию так, чтобы их можно было повторить на чистой машине: список пакетов, файлы настроек, порядок команд. Это одновременно документация, план восстановления и основа для автоматизации.
Не оптимизируйте то, что не измеряли. Сначала соберите базовые показатели, затем меняйте один параметр и сравнивайте результат. Иначе легко получить конфигурацию, которая выглядит сложнее, но работает не быстрее.
Итог
Понимание внутреннего устройства awk экономит часы диагностики. Когда знаете, где хранится состояние и как компоненты общаются, ошибка перестаёт быть «магией».