@@ -3,8 +3,8 @@ title: Nix
3subtitle: Язык, пакетный менеджер и экосистема
3subtitle: Язык, пакетный менеджер и экосистема
4author: Александр Бантьев @balsoft, typeable.io
4author: Александр Бантьев @balsoft, typeable.io
5description: |
5description: |
6− Вольный пересказ nix-pills на русском языке.
6+ Вольный пересказ nix-pills на русском языке.
7− https://nixos.org/nixos/nix-pills, автор Luca Bruno (aka Lethalman)
7+ https://nixos.org/nixos/nix-pills, автор Luca Bruno (aka Lethalman)
8theme: Boadilla
8theme: Boadilla
9colortheme: dolphin
9colortheme: dolphin
10mainfont: Roboto
10mainfont: Roboto
@@ -13,21 +13,20 @@ aspectratio: 169
13titlegraphic: images/nix.png
13titlegraphic: images/nix.png
15header-includes:
15header-includes:
16−- \usepackage[utf8]{inputenc}
16+ - \usepackage[utf8]{inputenc}
17−- \usepackage[russian]{babel}
17+ - \usepackage[russian]{babel}
18−- \uselanguage{Russian}
18+ - \uselanguage{Russian}
19−- \languagepath{Russian}
19+ - \languagepath{Russian}
20−- \usepackage{tikz}
20+ - \usepackage{tikz}
24<meta charset="utf8" />
26<meta charset="utf8" />
25<title>Заметки выступающего</title>
27<title>Заметки выступающего</title>
26−# Заметки выступающего
31Основано на <https://nixos.org/nixos/nix-pills> . Огромная благодарность @Lethalman и @grahamc за написание и поддержку этого материала!
30Основано на <https://nixos.org/nixos/nix-pills> . Огромная благодарность @Lethalman и @grahamc за написание и поддержку этого материала!
33Я хотел бы, чтобы к концу презентации всем стало понятно
32Я хотел бы, чтобы к концу презентации всем стало понятно
@@ -40,6 +39,8 @@ header-includes:
41Вы можете прекратить слушать после любой секции, и я надеюсь, что вы унесете какую-то полезную для себя информацию.
40Вы можете прекратить слушать после любой секции, и я надеюсь, что вы унесете какую-то полезную для себя информацию.
42+Исходники, собранный pdf и заметки докладчика для этой презентации находятся на <https://github.com/typeable/nix-pills-ru>
45Как вы все скорее всего знаете, мы используем Nix для сборки и тестирования нашего кода. Я, Александр Бантьев (@balsoft) отвечаю за инфраструктуру сборки пакетов (Hydra, NixOps), а также за поддержание инструкций сборки в актуальном состоянии. Я бы хотел рассказать вам про nix с помощью вольного пересказа отличной серии статей ["Nix pills"](https://nixos.org/nixos/nix-pills)
46Как вы все скорее всего знаете, мы используем Nix для сборки и тестирования нашего кода. Я, Александр Бантьев (@balsoft) отвечаю за инфраструктуру сборки пакетов (Hydra, NixOps), а также за поддержание инструкций сборки в актуальном состоянии. Я бы хотел рассказать вам про nix с помощью вольного пересказа отличной серии статей ["Nix pills"](https://nixos.org/nixos/nix-pills)
@@ -53,13 +54,13 @@ header-includes:
54[Nix](https://nixos.org/nix) -- это
55[Nix](https://nixos.org/nix) -- это
57 + Декларативный
58 + Декларативный
58 + Функциональный
59 + Функциональный
61 + Динамически типизированный
62 + Динамически типизированный
62−#. Пакетный менеджер
63+2. Пакетный менеджер
63 + Атомарный
64 + Атомарный
64 + Повторяемый
65 + Повторяемый
65 + Source/Binary
66 + Source/Binary
@@ -91,7 +92,7 @@ digraph {
95# Nix как пакетный менеджер
96# Nix как пакетный менеджер
97> Nix is a powerful package manager for Linux and other Unix systems that makes package management reliable and reproducible. It provides atomic upgrades and rollbacks, side-by-side installation of multiple versions of a package, multi-user package management and easy setup of build environments.
98> Nix is a powerful package manager for Linux and other Unix systems that makes package management reliable and reproducible. It provides atomic upgrades and rollbacks, side-by-side installation of multiple versions of a package, multi-user package management and easy setup of build environments.
@@ -302,6 +303,22 @@ nix-repl> /home/balsoft/Документы
302error: path '/home/balsoft/' has a trailing slash
303error: path '/home/balsoft/' has a trailing slash
306+## `NIX_PATH` и `<nixpkgs>`
308+`NIX_PATH` -- переменная, очень похожая на `PATH` по синтаксису значений (значения разделены двоеточием), в которой nix ищет пути запрошенные через синтаксис `<path>`.
311+$ NIX_PATH=home=$HOME nix repl
315+$ NIX_PATH=/home nix repl
320+/nix/store/zzjhgd7p1y879z0y9pz70vjd45yfi9iz-nixpkgs
305## Списки (lists)
322## Списки (lists)
307Списки в Nix иммутабельны и могут содержать значения любых типов вперемешку.
324Списки в Nix иммутабельны и могут содержать значения любых типов вперемешку.
@@ -326,6 +343,8 @@ nix-repl> [ import ./hello.nix {} ]
326## Множества аттрибутов (attribute sets, attrsets)
343## Множества аттрибутов (attribute sets, attrsets)
328nix-repl> s = { foo = "bar"; a-b = "baz"; "123" = "num"; }
345nix-repl> s = { foo = "bar"; a-b = "baz"; "123" = "num"; }
329nix-repl> s
348nix-repl> s
330{ "123" = "num"; a-b = "baz"; foo = "bar"; }
349{ "123" = "num"; a-b = "baz"; foo = "bar"; }
331nix-repl> s.a-b
350nix-repl> s.a-b
@@ -334,6 +353,15 @@ nix-repl> s."123"
335nix-repl> s.${toString (122 + 1)}
354nix-repl> s.${toString (122 + 1)}
357+## Множества аттрибутов
337nix-repl> s.abc or "not found" # Note that `or` is a keyword
365nix-repl> s.abc or "not found" # Note that `or` is a keyword
338"not found"
366"not found"
339nix-repl> s // { a = 10; }
367nix-repl> s // { a = 10; }
@@ -652,7 +680,7 @@ graph [ dpi=200; ]
654unset PATH
682unset PATH
655−for p in $buildInputs; do
683+for p in $buildInputs $baseInputs; do
656 export PATH=$p/bin${PATH:+:}$PATH
684 export PATH=$p/bin${PATH:+:}$PATH
658tar -xf $src
686tar -xf $src
@@ -672,13 +700,379 @@ make install
673### `generic-builder.nix`
701### `generic-builder.nix`
675−{ buildInputs, pkgs, ... }@args:
703+pkgs: attrs:
676−with pkgs;
704+ with pkgs;
677−derivation (args // {
705+ let defaultAttrs = {
678− buildInputs = buildInputs
706+ builder = "${bash}/bin/bash";
707+ args = [ ./builder.sh ];
679− ++ [ gnutar gzip gnumake gcc binutils-unwrapped
708+ baseInputs = [ gnutar gzip gnumake gcc binutils-unwrapped
680− coreutils gawk gnused gnugrep ];
709+ coreutils gawk gnused gnugrep findutils ];
681− builder = "${bash}/bin/bash";
710+ buildInputs = [];
682− args = [ ./generic-builder.sh ];
711+ system = builtins.currentSystem;
714+derivation (defaultAttrs // attrs)
716+## `mkDerivation`: добавляем фазы
718+Создадим файл `setup.sh`, в котором определим стандартные "фазы" сборки, которые затем будем использовать в `builder.sh`.
722+for p in $baseInputs $buildInputs; do
723+ export PATH=$p/bin${PATH:+:}$PATH
726+function unpackPhase() {
730+ if [ -d "$d" ]; then
739+function configurePhase() {
740+ ./configure --prefix=$out
742+function buildPhase() {
745+function installPhase() {
748+function genericBuild() {
768+### `generic-builder.nix`
772+ let defaultAttrs = {
773+ builder = "${bash}/bin/bash";
774+ args = [ ./builder.sh ];
776+ baseInputs = [ gnutar gzip gnumake gcc binutils-unwrapped
777+ coreutils gawk gnused gnugrep findutils ];
779+ system = builtins.currentSystem;
782+derivation (defaultAttrs // attrs)
784+## `mkDerivation`: воспользуемся нашей функцией!
786+Отлично! Наша функция умеет собирать autotools-проекты, при этом `builder.sh` получился очень простым благодаря `setup.nix`. Теперь если мы хотим собрать проект не на основе autotools, мы можем это легко сделать, пропустив некоторые фазы в builder.
791+ pkgs = import <nixpkgs> {};
792+ mkDerivation = import ./generic-builder.nix pkgs;
796+ src = ./hello-2.10.tar.gz;
800+## Пакеты как функции от зависимостей: паттерн inputs
802+Сделаем наш репозиторий ещё удобнее, вынеся определения пакетов в отдельные файлы. В каждом таком файле будет находиться функция, принимающая в качестве аргументов зависимости пакета и возвращающая деривацию (который мы будем создавать с помощью нашего `mkDerivation`)
809+ src = ./hello-2.10.tar.gz;
816+ pkgs = import <nixpkgs> {};
817+ mkDerivation = import ./generic-builder.nix pkgs;
820+ hello = import ./hello.nix { inherit mkDerivation };
824+## Сборка с библиотеками: `NIX_CFLAGS_COMPILE`, `NIX_LDFLAGS`
826+Если мы хотим собирать пакеты, которые зависят от сторонних библиотек, нам понадобится ещё немного магии: нужно указать GCC и ld, где искать заголовочные и объектные файлы библиотек. Для этого существуют переменные `NIX CFLAGS COMPILE` и `NIX LDFLAGS`
828+### `generic-builder.sh`
831+for p in $baseInputs $buildInputs; do
833+ if [ -d $p/include ]; then
834+ export NIX_CFLAGS_COMPILE="-I $p/include${NIX_CFLAGS_COMPILE:+ }\
837+ if [ -d $p/lib ]; then
838+ export NIX_LDFLAGS="-rpath $p/lib -L \
839+$p/lib${NIX_LDFLAGS:+ }$NIX_LDFLAGS"
847+{ mkDerivation, gdSupport ? true, gd, fontconfig, libjpeg, bzip2 }:
851+ src = ./graphviz-2.38.0.tar.gz;
852+ buildInputs = if gdSupport
853+ then [ gd fontconfig libjpeg bzip2 ]
861+ pkgs = import <nixpkgs> {};
862+ mkDerivation = import ./generic-builder.nix pkgs;
865+ hello = import ./hello.nix { inherit mkDerivation };
866+ graphviz = import ./graphviz.nix { inherit mkDerivation
867+ gd fontconfig libjpeg bzip2; };
868+ graphvizCore = import ./graphviz.nix {
869+ inherit mkDerivation gd fontconfig libjpeg bzip2;
875+## Паттерн `callPackage`
877+Здорово! Мы сделали свой небольшой репозиторий с красивой файловой структурой, научились собирать пакеты с помощью autotools с возможностью легко перейти на другие системы сборки и даже собирать пакеты с библиотеками. Теперь пора уменьшить бойлерплейт. Можно заметить, что в корневом файле репозитория мы повторяем названия аргументов функции при её вызове. Это будет происходить постоянно при структуре репозитория, похожего на наш. Для того, чтобы исправить эту проблему, мы создадим функцию `callPackage`, которая будет вызывать функцию из указанного файла, автоматически передавая ей аргументы из указанного attrset. Например:
882+ pkgs = import <nixpkgs> {};
883+ mkDerivation = import ./generic-builder.nix pkgs;
886+ hello = callPackage ./hello.nix { };
887+ graphviz = callPackage ./graphviz.nix { };
888+ graphvizCore = callPackage ./graphviz.nix { gdSupport = false; };
893+Для начала разберемся с тем, как же нам найти названия аргументов функции. В nix для этого существует встроенная функция `builins.functionArgs`. Она возвращает attrset, в котором названию аргументов соответствует наличие у них значения по-умолчанию.
896+nix-repl> add = { a ? 3, b }: a+b
897+nix-repl> builtins.functionArgs add
898+{ a = true; b = false; }
901+Также в nix существует удобный builtin для "пересечения" двух attrset-ов. Он возвращает attrset, в котором имена аттрибутов -- пересечение имен аттрибутов его аргументов, а их значения берутся из второго аргумента. Например:
904+nix-repl> values = { a = 3; b = 5; c = 10; }
905+nix-repl> builtins.intersectAttrs values (builtins.functionArgs add)
906+{ a = true; b = false; }
907+nix-repl> builtins.intersectAttrs (builtins.functionArgs add) values
910+## Простой вариант `callPackage`
912+Обладая этими знаниями, напишем простую реализацию нашего callPackage.
915+nix-repl> callPackage = set: f:
916+ f (builtins.intersectAttrs
917+ (builtins.functionArgs f)
919+nix-repl> callPackage values add
921+nix-repl> with values; add { inherit a b; }
924+## `callPackage`: добавляем оверрайды
926+Добавим возможность перегружать значения с помощью последнего аргумента...
929+nix-repl> callPackage = set: f: overrides:
930+ f ((builtins.intersectAttrs
931+ (builtins.functionArgs f)
934+nix-repl> callPackage values add { }
936+nix-repl> callPackage values add { b = 12; }
939+## `callPackage`: используем!
942+ nixpkgs = import <nixpkgs> {};
943+ allPkgs = nixpkgs // pkgs;
944+ callPackage = path: overrides:
945+ let f = import path;
946+ in f ((builtins.intersectAttrs
947+ (builtins.functionArgs f)
950+ pkgs = with nixpkgs; {
951+ mkDerivation = import ./generic-builder.nix nixpkgs;
952+ hello = callPackage ./hello.nix { };
953+ graphviz = callPackage ./graphviz.nix { };
954+ graphvizCore = callPackage ./graphviz.nix { gdSupport = false; };
958+## Паттерн `override`
960+Nix -- это функциональный язык. Одна из идей функциональной парадигмы состоит в композиции функций. Это может быть очень удобно при работе с деривациями. Например, если мы хотим получить `graphviz`, собранный с нашей собственной версией библиотеки gd, на данный момент нам придется заново делать `callPackage ./graphviz.nix { gd = customgd; }` Это неудобно и добавляет бойлерплейт.
963+mygraphviz = callPackage ./graphviz.nix { gd = customgd; }
967+mygraphviz = pkgs.graphviz.override { gd = customgd }
969+## Паттерн `override`: `makeOverridable`
971+Для реализации нашей затеи напишем функцию `mkOverridable`, которая будет принимать функцию, возвращающую attrset, и attrset (который будет являться "дефолтными" аргументами для данной функции). Вернет `makeOverridable` тот же attrset, что вернула бы данная функция, с добавлением аттрибута `override`, который является функцией, позволяющей нам "перегружать" стандартные аргументы.
976+ makeOverridable = f: origArgs:
978+ origRes = f origArgs;
982+ makeOverridable f (origArgs // newArgs);
986+## Паттерн `override`: потестируем!
988+Работает! Теперь мы можем легко "перегружать" аргументы пакетов (которые, напомню, просто функции) в нашем репозитории. Нужно только не забыть вызывать все эти пакеты с makeOverridable.
993+nix-repl> f = { a, b }: { result = a+b; }
994+nix-repl> res = makeOverridable f { a = 3; b = 5; }
995+nix-repl> res2 = res.override { a = 10; }
997+{ override = «lambda»; result = 15; }
998+nix-repl> res2.override { b = 20; }
999+{ override = «lambda»; result = 30; }
1001+## Паттерн `override`: объединяем с `callPackage`
1006+ callPackage = pkgs: path: overrides:
1007+ let f = import path;
1009+ f ((builtins.intersectAttrs
1010+ (builtins.functionArgs f)
1015+## Паттерн `override`: репозиторий
1019+ lib = import ./lib.nix;
1020+ nixpkgs = import <nixpkgs> {};
1021+ callPackage = lib.callPackage allPkgs;
1022+ allPkgs = nixpkgs // pkgs;
1023+ pkgs = with nixpkgs; rec {
1024+ mkDerivation = import ./generic-builder.nix nixpkgs;
1025+ hello = callPackage ./hello.nix { };
1026+ graphviz = callPackage ./graphviz.nix { };
1027+ graphvizCore = graphviz.override { gdSupport = false };
1031+## nixpkgs: краткая справка
1033+### Общая конфигурация для всех пакетов
1035+* `import <nixpkgs> { config = {...}; }`
1037+* `~/.config/nixpkgs/config.nix`
1040+### Перегрузка пакетов
1043+config.packageOverrides = oldPkgs: {
1044+ graphviz = oldPkgs.graphviz.override { gd = customgd; };
1050+nixpkgs.overlays = [ (self: super: {
1051+ graphviz = super.graphviz.override { gd = customgd; };
1055+## `stdenv.mkDerivation`: прокачиваем наш `mkDerivation`
1057+Наша функция `mkDerivation`, без сомнения, прекарасна, но можно лучше! `stdenv.mkDerivation` из nixpkgs предоставляет интерфейс (т.е принимаемые и возвращаемые значения) очень похожие на наш `mkDerivation`, с несколькими отличиями:
1059+`stdenv.mkDerivation` может...
1061+* Изменять поведение фаз, например `{ buildPhase = "make"; }`
1062+* Изменять список фаз `{ phases = [ "buildPhase" ]; }`
1063+* Перегружать аргументы с помощью `overrideAttrs`
1064+* Автоматически добавлять хуки на проброс зависимостей с помощью `propogatedBuildInputs`
1067+## Что осталось за кадром в этом разделе
1070+Нельзя объять необъятное -- а nixpkgs действительно необъятен, более 100МБ кода на данный момент -- и поэтому я оставлю изучение частностей на совести слушателя.
1077+<https://nixos.org/nixos/nix-pills> и <https://nixos.org/nixpkgs/manual> -- для тех, кому надо или интересно!