На протяжении нескольких тысячелетий земледелие оставалось мотыжным. В тех областях, где почвы были мягкими (например, в долине Нила или Месопотамии), мотыгой можно было хорошо возделывать поле. Поэтому земледелие здесь стало бурно развиваться еще в глубокой древности. Однако производительность труда земледельца была незначительной. К тому же столь благоприятные условия являлись редким исключением. Обычно крестьянам приходилось поднимать целинные луга, поросшие многолетними травами, с мощным переплетением корней. Для человека, вооруженного одной мотыгой, эти почвы были трудным, часто непреодолимым препятствием. Ощущалась нужда в таком орудии обработки земли, с помощью которого можно было бы не вскапывать, а подрезать пласты дерна снизу. Этим орудием и стал плуг.

Плуг развился из особого инструмента древних земледельцев, который современные ученые окрестили "бороздовой палкой". С помощью этой палки земледелец прокладывал в поле борозды, делящие его на гряды. Отличительной чертой этих палок была рабочая часть, направленная под острым углом к рукоятке. Использование их подало мысль древним земледельцам, что почву можно обрабатывать не копанием, как это делалось раньше, а волочением. Тогда, видимо, и появился прообраз плуга — раздвоенная палка с заостренным концом (здесь уже видны в зародыше дышла и лемех). Впрягшись в такое устройство, земледелец тащил его за собой, проделывая борозду. Конечно, использовать такое орудие можно было лишь на очень мягких почвах, уже взрыхленных многолетней обработкой, где не было ни камней, ни дерна. Для того чтобы пахать более твердые почвы, необходимо было усилить давление на лемех. Так была изобретена рукоятка. Дальнейшее усовершенствование этого пахотного орудия можно наблюдать в одном древнеассирийском памятнике. Это был уже в полном смысле плуг, имевший все три его основные части: дышло, лемех и рукоятку. В такой форме он требовал двух работников: один тащил плуг, а другой направлял его и держал в земле. Все первые плуги приводились в движение силой человека. Разумеется, крестьянина тяготила такая работа, и спустя некоторое время он стал запрягать в плуг быков. Поначалу люди просто привязывали плуг к рогам волов, позже появились ярмо и примитивная упряжь. Скорость обработки земли сразу возросла в несколько раз, а сама работа облегчилась.

Первые плуги изготовлялись из корневищ дуба, бука, клена и некоторых других деревьев и представляли собой цельные куски дерева. Затем лемех стали укреплять железом. Прошло много лет, прежде чем в плуге были сделаны дальнейшие усовершенствования. В сочинениях Плиния — римского писателя I века нашей эры — мы находим описание плуга, который, в отличие от предшествующих, снабжен колесом, ножом и отвальными досками. Колесо не давало плугу входить слишком глубоко в землю, нож служил для того, чтобы взрезывать дерн. Важным новшеством был отвал. Назначение отвала — переворачивать дерн, который срезали нож и лемех. Плуг без отвала при движении только разрыхлял землю. Отвал переворачивал дерн таким образом, что сорная трава оказывалась под землей. Изобретение отвала было огромным событием в истории плуга. В таком виде плуг просуществовал вплоть до конца средних веков, когда в него были внесены новые усовершенствования.

Распространение плуга с железным лемехом произвело кардинальный переворот в земледелии. Плужное земледелие преобразовало сельское хозяйство, явилось его высшим достижением и в немалой степени способствовало возникновению многих цивилизаций Старого Света. Преимущество плужного земледелия перед мотыжным настолько очевидно, что в представлении древних людей его изобретение было делом богов. Египтяне считали плуг даром Осириса, греки — Афины-Паллады, индийцы — Агни, а жители Китая — божественного Шенпунгу.