В 1947 году приехал в Эстонскую ССР для работы по инженерно-технической специальности на железной дороге, работал техником электросилового хозяйства на Эстонской железной дороге.
С 1947 года член ВКП(б). С 1948 года на партийной работе: инструктор ЦК, секретарь Таллинскогообкома, в 1953—1957 годах завотделом ЦК КП Эстонии, в 1957—1960 годах заместитель председателя совнархоза Эстонской ССР, в 1960—1978 годах секретарь ЦК Коммунистической партии Эстонии. Окончил Заочную высшую партийную школу в 1957 году.
В 1978—1988 годах первый секретарь ЦК Коммунистической партии Эстонии (сменил на этом посту Йоханнеса Кэбина). Проводил политику в полном согласии с ЦК КПСС, а также продолжил практику русификации Эстонии[3].
В 1979 году на него было совершено неудачное покушение (Имре Аракас организовал террористическую группу, которая, чтобы вооружиться, ограбила склад добровольного спортивного общества «Динамо». В начале 1979 года Аракас был арестован по обвинению в бандитизме. Во время суда его вооруженные сторонники ворвались в зал и освободили своего вожака. В середине 1979 года Аракас обстрелял машину первого секретаря ЦК КПЭ К. Г. Вайно, однако тот остался невредим. В конце 1979 года Аракас был арестован и приговорен к 12 годам заключения)[4][5].
Ф. Д. Бобков вспоминал, что «Андропов начал некоторые перемены, но это не вопросы перестройки. Например, я помню, он большую работу провел с Вайно. Они экспериментировали с развитием молочного хозяйства. Кстати говоря, очень успешно»[6][значимость факта?].
Во время акций протеста в Эстонии в 1988 году Вайно запросил у руководства страны разрешение на проведение силовой операции, но не получил его[7]. В результате многочисленных протестов эстонской общественности был освобождён от должности и переведён на работу в Москву. В 1988—1990 годах — член Комитета партийного контроля при ЦК КПСС.
С 1990 года на пенсии. Жил в Москве.
Член ЦК КПСС (1981—1990). Депутат Совета Союза Верховного Совета СССР 10—11 созывов (1979—1989) от Эстонской ССР[8].
Дочь — Элеонора Карловна Кочетова (род. в 1945), вдова Андрея Всеволодовича Кочетова (1942—2017), сына советского писателя Всеволода Кочетова, кандидат химических наук, работает в МГУ[13][14]. Внук Карла Вайно — Кочетов Андрей Андреевич (род. в 1969), работал в МВД России.
Сын — Эдуард Карлович Вайно (род. в 1949)[15]. В 1981—1985 гг. работал в советском торгпредстве в Японии, в 1990—1997 гг. — представитель АвтоВАЗа в США, председатель Делового совета Куба-Россия в Торгово-промышленной палате РФ, почетный гражданин королевства Бутан. С 2007 года на АвтоВАЗе, по состоянию на конец 2010 года занимал должность вице-президента по внешним связям и взаимодействию с акционерами, ранее являлся вице-президентом компании по корпоративному развитию. Женат, два сына и дочь.
Mati Graf. “Kalevipoja kojutulek. 1978. aasta poliitilisest pööripäevast 1988. aasta suveräänsusdeklaratsioonini” Tallinn, kirjastus Argo 2008. ISBN 978-9949-438-53-2