ClickOnceの場合、これまでに多かったアプリケーションと同じディレクトリに
何らかの形でデータを保存したとき、アプリケーションのバージョンがあがってしまうと
まったく別のディレクトリにインストールされるため利用できなくなります。
たとえばXMLファイルとかローカルの.mdbファイルとかです。

それを防ぐにはClickOnceインストール時に作られるDataフォルダの中に保存しておきます。
バージョンがあがった場合は前のバージョンのものをそっくりコピーして持ってきてくれます。
そのDataフォルダへのパスは以下のどちらかで指定します。

たぶんClickOnceの場合どちらでも同じパスだとおもいます。

参考
http://msdn2.microsoft.com/ja-jp/library/d8saf4wy.aspx

また、INIファイルみたいな感じで使えるものには分離ストレージというものがあります。

参考
http://d.hatena.ne.jp/Kazzz/20060705/p2
http://d.hatena.ne.jp/Yamaki/20060714/1152861343