В фильме "Шутки в сторону 2" прошло десять лет с тех пор, как эгоцентричный столичный сыщик Франсуа Монж и полицейский из бедных кварталов Парижа, Усман Диаките, расстались после совместного задания и пошли каждый своим путем. В это время Усман достигает звания начальника уголовного отдела, тогда как Франсуа остается полон пороков и сталкивается с препятствиями на пути к своей мечте — стать комиссаром, в том числе из-за его слабости к красивым женщинам.

Однако их пути снова пересекаются, когда они сталкиваются с таинственным убийством на железнодорожном вокзале. Это преступление заставляет их объединить усилия и отправиться в провинциальный город во французских Альпах, где их ждут новые загадки, опасности и встречи с прошлым.