Никите Михалкову всегда нравились американские вестерны, в которых главные роли играл Клинт Иствуд. Поэтому он часто задумывался над тем, чтобы найти возможность адаптировать данный жанр под русскую историю.
Режиссёру удалось решить эту задачу с помощью Эдуарда Володарского. Прочитав заметку про золото переходящее во время военных действий, то к красным, то к белым, и в итоге ставшее золотым запасом развивающейся Республики СССР, у него родилась грандиозная идея. Опираясь на материал прочитанный в газете Володарский вместе с Михалковым написали повесть, и после её публикации они обратились с заявкой на экранизацию. На тот момент в Госкино снисходительно относились ко всему, что касалось Гражданской войны, поэтому разрешение на съёмки было получено достаточно быстро.
Ранее все киноленты этого жанра снимали акцентируя внимание на историко-патриотической теме, но Михалков решил снять картину не про героев и их военные подвиги, а про мужскую дружбу, романтические приключения, сокровища и погони. Чтобы полностью передать свой замысел Михалков решил снять цветную киноленту, но в Госкино решили ограничить возможности дилетанта. Именно поэтому частично фильм оказался чёрно-белым, что стало его изюминкой.
Когда половина работы была сделана, Михалков получил повестку, поэтому вынужден был прервать съемки и отдать долг Родине.
Съёмки фильма начались в 1973 г. Первые кадры были сняты на Мосфильме, а затем продолжились в Подмосковье. Несмотря на сцену с ограблением поезда, которая была снята заранее, Михалкову пришлось переснять её в Баку, а не в Чечне, как было задумано изначально. Причиной этого оказался брак первого варианта, а сменой места то, что из-за выпавшего снега съемки в Чечне стали невозможными.
Героя Шилова сыграл Юрий Богатырев. После этого режиссёр стал считать его талисманом, поэтому самых ярких персонажей в его фильмах всегда играл Богатырев.
Выбор Богатырева на роль чекиста удивил практически всех, ведь многие знали насколько он был интеллигентным и вежливым человеком. Но Михалков был уверен, что только Богатырев сможет сыграть эту роль лучше всех, даже если в некоторых моментах ему придётся перешагнуть через себя, что произошло во время сцены, когда актеру нужно было ударить Кайдановского. Проблема заключалась в том, что он никогда не дрался и даже во время съёмок не мог поднять руку на коллегу, чем сильно разозлил Михалкова.
Ещё при написании повести Михалков знал, что создает образ атамана для себя. По замыслу герой имел множество буржуазных замашек, поэтому режиссёр переживал примет ли его цензура. Но к счастью, обаятельный негодяй покорил, как зрителей, так и начальство Госкино.
В период съёмок, для исполнения трюков приглашали каскадёров, но когда снимали прыжок Юрия Богатырева с Райкиным в реку, актёры решили исполнить трюк самостоятельно. Оказавшись в ледяной воде, температура которой не превышала 3C, течение понесло их вдоль реки. Актёры выплыли исключительно благодаря хорошей физической подготовке, после чего дальнейшие трюки исполняли только дублёры.
На съёмках в Чечне отношения съёмочной группы и местных жителей не заладились. Между ними произошла драка и именно в бою киношники смогли заслужить авторитет чеченцев, после чего их попросили принять участие в съёмках, сыграть банду Брылова.
Михалков часто вспоминает съёмки рассказывая, насколько дружным был весь коллектив. И именно в этот период Татьяна Соловьева стала женой Михалкова. Когда она приехала, режиссер даже придумал для возлюбленной отдельный эпизод с девушкой мечты Брылова, а спустя несколько дней они узаконили свои отношения.
Знаменитый саундтрек к киноленте «Свой среди чужих, чужой среди своих», был написан Эдуардом Артемьевым, который в будущем стал композитором практически во всех фильмах снятых Никитой Михалковым. При написании музыки Артемьев даже не ожидал такого результата, ведь эта композиция стала самой узнаваемой в Советском кинематографе.
