相参拜靖国神社与中国、北朝鲜、韩国外交均不顺利，小泉纯一郎决定访问俄罗斯寻求支持。在这次访问中，普京支持日本成为联合国安理会常任理事国，但在领土问题上，两国仍未达成一致共识。
2004年，在日本自民党情况不利的背景下，小泉决定再提领土问题作为主要问题讨论。同年9月2日，小泉访问南千岛群岛，遭俄罗斯强烈抗议，两国外交陷入僵局。
11月，为打破外交僵局，俄罗斯外长拉夫罗夫称愿遵守日苏联合声明，归还四岛中的齿舞群岛及色丹岛。普京表示赞许，以为访日造势。然而，俄罗斯右翼人士表示反对。萨哈林岛民众甚至组织民兵，阻止日本得到四岛。极端者声称，若俄罗斯要归还领土，将集会要求普京下台。
日本对于俄罗斯仅还两岛亦极为不满，指称普京的话全是“苏联时期的陈词滥调”。普京回应说，在日苏联合声明中仅有归还二岛的条款，直到现在俄日领土问题仍未解决。