可以。
中國的手機卡，開通國際漫游即可在日本使用。

中國移動：
【通話】接聽電話、撥打中國大陸均為0.99元/分鐘
【短信】發短信回中國大陸0.69元/條，接收免費

中國聯通：
【通話】接聽電話、撥打中國大陸及漫游地均為0.96元/分鐘，撥打港澳臺及其它國家和地區2.86元/分鐘（境外撥打中國大陸請加撥+86，鍵盤長按“0”可撥出“+”號）
【短信】發短信回中國大陸0.86元/條，發港澳臺及其他國家和地區1.56元/條