大きな画像をタイル化する場合、独自のルールで各タイルのファイル名を指定できますか？

まず、簡潔な回答からですと、できません。
GIで画像のタイル化を行った際の命名方法は、以下の4種類が用意されています。例えば、タイル画像.tif という名前を出力名にすると以下のように命名されます

連番
1. タイル画像_1.tif、タイル画像_2.tif、タイル画像_3.tif、タイル画像_4.tif…
行列番号
1. タイル画像_1_1.tif、タイル画像_1_2.tif、タイル画像_1_3.tif、タイル画像_2_1.tif、タイル画像_2_2.tif、タイル画像_2_3.tif…
左上角のピクセル座標数
1. タイル画像_0_0.tif、タイル画像_270_0.tif、タイル画像_0_458.tif、タイル画像_270_458.tif…
左上角の座標値
1. タイル画像_2379,45_1136855,45.tif、タイル画像_334102,25_1136855,45.tif、タイル画像_2379,46_574115,30.tif、タイル画像_334102,25_574115,30.tif…

より詳しい説明は、Geographic Imager のヘルプサイトもご参照ください。　https://www.avenza.com/help/geographic-imager/5.4/index.html?using_tile.htm