Откако ја превземале мафијата по убиствата на Масериа и Маранзано во 1931 година, Костело станал еден од најефективните мафијаши во фамилијата на Лучијано. Тој бил одговорен на апаратите за коцкање и нелегалното спортско обложување заедно со Фил Касел. Костело пославил околу 25.000 апарати за коцкање низ баровите, рестораните, кафитериите, бензинските пумпи и автобуските станици низ Њујорк.
Сепак, во 1934 година градоначалникот на Њујорк Фиорело Ла Гвардија конфискувал огромен број на апарати и ги исфрлил во реката Хадсон. Следниот чекор на Костело бил договор со градоначалникот на Луизијана за поставување на апарати за коцкање низ оваа сојузна држава. За раководите на оваа операција, Костело го назначил Кастел кој соработувал со мафијашот од Њу Орлеанс Карлос Марчело кој одлично ги познавал сите локации. Со оваа зделка Костело обезбедил милиони долари на мафијата, што претходно ги изгубиле во Њујорк.
Во 1936, Лучијано бил осуден за организирање проституција, што според многумина е најголемиот наместен случај во историјата. Тој бил испратен да ја одлежи казната во затворот Данемора, познат и како Сибир, а неговата казна била одредена на 30 до 50 години. Лучијано се обидел да ја води мафијата од внатре, со помош на Костело и Лански, но тоа се покажало скоро невозможно, па Лучијано го именувал Вито Џеновезе како негов заменик. Но и Вито Џеновезе морал да пребега за Италија откако во 1937 година бил осуден за убиство. Лучијано тогаш го назначил Френк Костело за бос на мафијата Лучијано.
Со помош на своите соработници Џо Адонис, Антони Карфано и Мајкл Копола, работата на мафијата се одвивала непречено. Профитот од нелегалните операции бил огромен: од апаратите за коцкање во Њу Орлеанс, до коцкарниците низ Флорида и нелегалните трки во Лос Анџелес. Костело исто така уживал најголемо политичко влијание од сите мафијаши низ историјата. Како бос тој бил фер кон сите, профитот го делел подеднакво и не задржувал многу пари за себе. Всушност, тој немал потреба да биде алчен бидејќи го поседувал третиот по ред најголем ланец на месарници низ Њујорк.
Костело исто така ги проширил активностите на мафијата во Лас Вегас и во Куба. Костело имал едно правило; тој имал аверзија кон трговијата со наркотици и, за разлика од Вито Џеновезе, сметал дека дрогата не и е потребна на мафијата. Откако во 1946 Лучијано бил екстрадиран во Италија, Костело станал вистински бос на мафијата.