Ator conhecido pelo papel de coadjuvante na comédia The League, do FX, e por seu próprio programa de esquetes no Comedy Central, chamado Kroll Show. Ele tinha um papel recorrente em Children's Hospital, da faixa Adult Swim do Cartoon Network.
Ele frequentou a Georgetown University antes de buscar a carreira de ator, escritor e comediante.
Ele faz a voz de Stu na série animada The Life and Times of Tim, da HBO, e também dublou o Douche em Sausage Party.
Ele é filho, de Jules B. Kroll, fundador da empresa de consultoria Kroll Inc. Ele tem irmãs chamadas Vanessa e Dana. Em 2020, se casou com Lily Kwong e eles tiveram o primeiro filho juntos no dia 21 de janeiro de 2021. Ele havia namorado com Amy Poehler de 2013 a 2015.
Ele fazia parte do time de roteiristas do programa Chappelle's Show, estrelado pelo comediante Dave Chappelle.
