Stal se jedním ze zakladatelů Občanského fóra v Ostravě, za které byl následně zvolen do zastupitelstva města. Později vstoupil do České strany sociálně demokratické, ve které se stal místopředsedou. V roce 1996 byl poprvé zvolen do Poslanecké sněmovny, kde v letech 2002-2006 zastával funkci předsedy a později místopředsedy. V roce 2014 byl jmenován ministrem zahraničních věcí poté, co několik let zastával funkci stínového ministra.