Wielki Szarysz (słow. Veľký Šariš, niem. Groß-Scharosch, węg. Nagysáros) sąsiaduje z miejscowościami Gregorovce i Šarišské Michaľany, od wschodu graniczy z Finticami, od zachodu z miejscowościami Medzany, Malý Šariš, a od południa z Preszowem. Zajmuje powierzchnię 25,73 km2 (2573 ha). Przez miasto przepływa rzeka Torysa.
Na podstawie obecnego stanu wiedzy początki osadnictwa w środkowym Szaryszu można umiejscowić w młodszej części środkowego paleolitu. Przypuszczenia te opierają się na znaleziskach narzędzi kamiennych ze stanowiska archeologicznego Bikoš V, które mają od 60 do 80 tysięcy lat. Są to pierwsze dowody na obecność człowieka neandertalskiego na tym terenie.
Pierwsza pisemna wzmianka o mieście pochodzi z 1217 roku. Wielki Szarysz istniał jako wieś jeszcze przed pierwszymi pisemnymi wzmiankami, prawdopodobnie posiadał oddzielne parafie. Dla porównania Koszyce zostały założone w 1230 roku, Bardejów w 1241 roku, Preszów w 1247 roku, Sabinów w 1248 roku, a Lewocza w 1249 roku. W 2017 roku miasto obchodziło 800-lecie istnienia.
28 stycznia 1299 roku król węgierski Andrzej III nadał Sasom osiadłym w Wielkim Szaryszu, Preszowie i Sabinowie niektóre prawa wolnych miast królewskich. Oznaczało to, że wszyscy mieszkańcy (nie tylko Sasi, ale także Węgrzy i Słowacy) zostali zwolnieni z płacenia podatków i danin na rzecz żupana szaryskiego oraz kasztelana Zamku Szaryskiego i nie podlegali już ich jurysdykcji sądowej. Nie byli też już zobowiązani do służby wojskowej. Jedynym obowiązkiem miasta było płacenie władcy 150 marek srebra rocznie. Świadczy to o ważnej pozycji i sile gospodarczej miasta w owym czasie.
Decydującym czynnikiem dla powstania osady było położenie na skrzyżowaniu szlaków handlowych łączących Bałkany z Bałtykiem (tzw. szlak solny) w kierunku północ-południe oraz Galicję ze Spiszem w kierunku wschód-zachód. Wielki Szarysz rozwinął się jako typowe podgrodzie.
Miasto i jego najbliższa okolica leżą w południowo-wschodniej części jednostki geomorfologicznej obniżenia śródgórskiego (tzw. Spišsko-šarišské medzihorie) w podjednostce Šarišské podolie ze Wzgórzem Szaryskim. W granicach miasta najważniejszymi wzniesieniami są Šarišská hora (419 m n.p.m.), Dúbrava (493,1 m n.p.m.), Bikoš (inaczej Bukovina, 378,6 m n.p.m.) i Okruhliak (390,6 m n.p.m.). W szerszej okolicy (poza granicami miasta) najwyższym punktem są Stráž (739 m n.p.m.) i Lysá Stráž (696,4 m n.p.m.).
Oś całego obszaru stanowi rzeka Torysa, tworząca szeroką dolinę z kilkoma rozgałęziającymi się ramionami. Do ważniejszych dopływów prawostronnych należą potoki Pajtovský i Šarišský. Dopływem lewostronnym jest Dzikov.
