За период с 1961 по 1964 год Демьяненко снялся на разных киностудиях в нескольких фильмах, однако лишь два из них можно записать в актив актеру: комедию-сказку "Каин XVIII" (1963) и приключенческий фильм "Сотрудник ЧК" (1964). Именно в 1964 году в творческой карьере актера Демьяненко произошло судьбоносное событие — на него обратил внимание Леонид Гайдай. Произошло это случайно. Когда ни один из кандидатов на роль Владика не устроил режиссера, кто-то из съемочной группы сказал: "В Питере работает прекрасный актер Александр Демьяненко. Он же вылитый Владик!" Не долго думая, Гайдай 11 июля сел в "Красную стрелу" и отправился в город на Неве. Как расскажет позднее сам Демьяненко: "Я как прочел сценарий "Операции "Ы", понял, что фильм обречен на успех, — ничего подобного в нашем кино тогда не было".
Кстати, Гайдай отправился в Питер не только за Демьяненко, но и еще за одним ленинградским актером, которого он хорошо знал — Алексеем Смирновым. Его он хотел попробовать на роль Верзилы вместо Пуговкина. Последнего забраковал сам Иван Пырьев, который посмотрев пробы, заявил: "Для этой роли такая бандитская физиономия, как у Пуговкина, не годится!" В итоге Пуговкину достанется роль прораба, а на роль Верзилы Гайдай привезет из Ленинграда Смирнова.
14 июля в павильоне № 3 состоялись очередные кинопробы с участием: Демьяненко (Владик), Смирнова (Верзила), Селезневой (Лида), Жернова (Владик). Три дня спустя худсовет 2-го объединения просмотрел эти пробы и поставил точку — утвердил актеров на главные роли: Владик — Демьяненко, Верзила — Смирнов, прораб — Пуговкин, Лида — Селезнева. Правда, 22 и 23 июля тот же худсовет внезапно затеял вторичную пробу с участием Валерия Носика, который, как мы помним, тоже претендовал на роль Владика. Но эти пробы не убедили худсовет в неправильности своего решения относительно Демьяненко. В итоге Носику эта роль не досталась (он сыграет эпизодическую роль студента-картежника, сдающего экзамены в новелле "Наваждение").
Первый съемочный день фильма "Операция "Ы" датирован 27 июля. В тот день на территории "Мосфильма" (у девятой лаборатории) снимали эпизод "во дворе милиции" с участием массовки (она изображала тунеядцев-алкоголиков) и двух актеров: Смирнова (Верзила) и Владимира Басова (милиционер).
28 июля — все тот же "двор милиции", милиционер обращается к "пятнадцатисуточникам": "Ну что, граждане алкоголики, хулиганы, тунеядцы, кто хочет сегодня поработать? А? На сегодня наряды: песчаный карьер — два человека. Карьер песчаный — два человека…" Один из наказуемых, нетрезвый мужчина, в ответ просит, с трудом ворочая языком: "Огласите весь список, пожалуйста…" Милиционер продолжает: "Песчаный карьер — два человека. Уборка улиц — три человека. Мясокомбинат…" Тут весь строй делает дружный шаг вперед, но после того как милиционер объявляет, что мясокомбинат на сегодня нарядов не прислал, тут же отступает назад. Милиционер продолжает: "Есть наряд на строительство жилого дома. Цементный завод…" Из строя подает голос Верзила: "А на ликеро-водочный нет?.."
29 июля — опять "двор милиции", где продолжают снимать "зачитку нарядов".
30 июля съемочная группа перебазировалась на одну из строительных площадок в Свиблово, чтобы начать съемку эпизодов "на стройке". К месту назначения приехали в 7 утра, но полсмены занимались освоением площадки. После обеда начали снимать. Сняли два кадра — планы Шурика (так теперь стали звать главного героя) и Верзилы на стройке, — после чего в четыре часа начался дождь, и съемку пришлось прекратить.
31 июля — весь день шла подготовка к предстоящим съемкам: рабочие мастерили грузовые и подъемные механизмы.
1 августа в 7.30 утра съемочная группа уже была в Свиблово. Два часа спустя началась съемка: снимали эпизоды с участием Смирнова: Верзила вскакивает на подоконник и видит, что внизу Шурик угодил в битум. Удалось снять всего лишь семь кадров, и работа остановилась из-за операторской группы: мало того что у нее постоянно барахлила камера, так еще вдобавок сели аккумуляторы, и был потерян болт, на который крепилась камера "Конвас". В тот же день Александр Демьяненко покинул съемочную группу на несколько дней, уехав на съемки другого фильма — "Возвращенная музыка".
2 августа — выходной день.
3 августа — снимали эпизоды с участием Алексея Смирнова; Верзила идет по городу (эти кадры в картину не вошли).
4 августа — выбирали места для натурных съемок в городе.
5 августа — из-за отсутствия Демьяненко (помимо съемок в фильме "Возвращенная музыка", он еще занят в озвучивании картины "Государственный преступник" и сможет вернуться только в середине августа) группа снимала фоны на улицах города.
6 августа — подготовка к съемкам на строительной площадке в Свиблово.
7 августа — снимали эпизоды с участием Смирнова и Пуговкина. Прораб водит Верзилу по стройке, даже услужливо держит его за ручку, когда тот, как балерина, балансирует на рельсе. При этом, не переставая, говорит: "Я уверен, что эти полторы декады пройдут у нас с вами в атмосфере дружбы и полного взаимопонимания". Верзила, обратив внимание на странный головной убор прораба, стучит по нему пальцем. Прораб объясняет: "Пробка — подарок из Африки". И вновь возобновляет свою лекцию: "Силой своего воображения представьте себе, какой замечательный жилмассив будет здесь создан. Только в нем одном будет установлено 740 газовых плит, то есть ровно в 740 раз больше, чем было во всем нашем городе до тысяча девятьсот тринадцатого года. Вот…"