ひとことで言えば「どの列から値を引っ張ってくるのか」という範囲ですが、XLOOKUP関数とVLOOKUP関数で指定の仕方が異なりますので、これらの違いを含めて紹介します。
XLOOKUP関数での「戻り範囲」
次の画像ではH3セルにXLOOKUP関数を使った数式を入力し、G3セルに入力されている社員番号(107)に対応する「所属」の値(経理課)を取得しています。

H3セル
=XLOOKUP(G3,B3:B7,D3:D7)
XLOOKUP関数では最低3つの引数を指定することで、検索値をある列から検索し、それに対応する別の列の値を取得することができます。
3つの引数の意味はそれぞれ次の通りです。
- 第1引数…検索値。IDや固有番号のように検索のキーとなる値
- 第2引数…検索範囲。どの列から検索値を探すのか、という範囲
- 第3引数…戻り範囲。検索値がみつかったときにどの列から値を取得するのか、という範囲
改めてこの関数の動作をみてみます。
まず第1引数として指定した検索値(G3セルの値=107)を、第2引数として指定した検索範囲(B3:B7)から検索します。
この例ではB3:B7のうち上から4番目のセル(B6セル)で107という値が見つかることがわかります。

そして最終的に、第3引数として指定した戻り範囲(D3:D7)のうち上から4番目のセルであるD6セルの値(経理課)を取得して表示します。

このように「範囲のうち上から○番目」という位置関係を目印にして値を取得するところがポイントです。
このため、検索範囲と戻り範囲の行数(上下に並んだセルの数)が等しくなるようにしなければならず、等しくないとエラーになります。
VLOOKUP関数の場合
次の画像ではVLOOKUP関数を使って上記例と同じように値を取得しています。

H3セル
=VLOOKUP(G3,B3:E7,3,FALSE)
VLOOKUP関数では検索範囲と戻り範囲を別個の範囲として指定するのではなく、両方を含む範囲を第2引数として指定します。
具体的な引数の意味をXLOOKUP関数の例と対応づけたのが次の画像です。
第2引数の範囲のうち最も左端の列が(XLOOKUP関数でいうところの)検索範囲となり、第3引数(ここでは「3」)の位置にある列、つまり左から数えて3番目の列が戻り範囲となります。

範囲指定の考え方が違うだけのこととも言えますが、検索範囲が左端の列に固定されてしまうため検索範囲より左にある値を取得できず、これがネックとなります。ついでに、第4引数のFALSEは完全一致検索を行うための引数です(XLOOKUPでは特に指定しなくても完全一致検索)が、これもVLOOKUP関数の方が面倒になる原因の1つです。
XLOOKUP関数のメリット
上記のような単純な例だとXLOOKUP関数のVLOOKUP関数の違いは目立ちませんが、XLOOKUP関数では検索範囲と戻り範囲の位置関係に制約がないため、VLOOKUP関数よりも柔軟な検索が可能となっています。
複数列からの一括取得
まずXLOOKUP関数では、戻り範囲に複数列を指定することで複数の値を一括して取得できます。
次の画像では戻り範囲にC~E列をまとめて指定することで3つの値を一括取得しています。

H3セル
=XLOOKUP(G3,B3:B7,C3:E7)
戻り範囲を複数列にすることでそれらの列から値をまとめて取得できます。HSTACK関数が使えるバージョンなら飛び飛びの範囲からことも取得できます(こちらの記事で紹介しています)。
スピル機能のあるバージョンならVLOOKUP関数を使って「=VLOOKUP(G3,B3:E7,{2,3,4},FALSE)」とすれば同じ結果になるものの、そんな手間のかかる式をあえて選ぶ理由はほぼありません。
検索範囲よりも左側からの値取得
次の画像の左側の表は上の例と異なっており、社員番号の列が最も右にあります。
VLOOKUP関数だと困ってしまうところですが、XLOOKUP関数を使って上記例と同様に「所属」の値を取得しています。

H3セル
=XLOOKUP(G3,E3:E7,C3:C7)
VLOOKUP関数の場合は指定した範囲内の最も左の列を検索範囲とするので、そこからさらに左側にある列から値を取得することはできません。
しかしXLOOKUP関数なら検索範囲と戻り範囲の位置関係に制限がないので、何の問題もなく値を取得できます。
上下にずれた範囲からの値取得
XLOOKUP関数なら検索範囲と戻り範囲が上下にずれていても、行数が一致していれば値を取得できます。
次の画像では1つ上の例と同様に社員番号(107)に対応する所属の値(経理課)を取得していますが、戻り範囲が検索範囲の左にあるだけでなく下方にずれています。

H3セル
=XLOOKUP(G3,E3:E7,C9:C13)
検索範囲内で値が見つかった位置を(上から数えて)n番目とし、戻り範囲のうちn番目に対応する値を取得する、という考え方で値を取得するので、2つの範囲が上下にずれていても値が取得できます。
上記のような例ではあまり実用性がありませんが、次の画像はもう少し実用的と思われる例です。
検索範囲を「B4:B13」、戻り範囲を「B3:B12」とし、戻り範囲を1行だけ上にずらしています。
これを確定すると…

検索値が見つかった位置より1つ上のセルにある値が取得できます。

さらに次の画像では戻り範囲を「B5:B14」とすることで検索値が見つかった位置より1つ下のセル値を取得しています。

INDEX+MATCHでも実現できる内容ですがXLOOKUP関数の方がやはり簡単です。