À partir des années 1870, les immigrants juifs et italiens arrivèrent en masse à New York et s'installèrent au sud de Manhattan, en particulier à Mulberry Street, qui devint plus tard le c½ur du quartier italien appelé Little Italy, dans le Lower East Side. La physionomie des gangs se modifia en conséquence, les immigrés formant leurs propres gangs pour résister à ceux qui tenaient la place. Parallèlement, la Mafia sicilienne s'installa vers les années 1890, avec l'arrivée du parrain Antonio Morello. Il s'associa avec un Sicilien immigré en 1898, Ignazio Saietta, surnommé Lupo le Loup pour sa cruauté dans la pratique de l'extorsion envers ses concitoyens. On le soupçonna d'une soixantaine d'affaires de meurtres commis par la torture (souvent par la brûlure). La famille Morello devint le groupe criminel dominant dans les années 1910.
Entre-temps, au tournant du siècle, le gang de Monk Eastman (un juif massif et bardé de cicatrices né Edward Osterman en 1873 à Brooklyn) se disputait le territoire du Lower East Side avec un gang majoritairement composé d'Italiens connu sous le nom de Five Points Gang, création de Paul Kelly (un ancien boxeur très cultivé né Paolo Antonio Vaccarelli en 1875 en Sicile). Chaque gang comptait alors plus d'un millier de gangsters qui tiraient leurs revenus du jeu, de la prostitution, du pick-pocketing, du cambriolage ou de l'assassinat commandité. Ils étaient également en affaire avec les hommes politiques de Tammany Hall, l'organisation du Parti Démocrate à New York (au pouvoir dans la ville depuis les années 1850), pour bourrer les urnes lors des élections ou prêter main forte pour influencer une décision. En contrepartie, les politiciens faisaient jouer leurs relations dans les milieux judiciaires afin de réduire les effets des arrestations. La lutte entre le Monk Eastman's Gang et le Five Points Gang culmina en 1903 avec une véritable bataille rangée en pleine rue, que la police eut le plus grand mal à contenir.
Les règnes de ces gangs déclinèrent au cours des années 1910, notamment suite à plusieurs arrestations, en particulier celle de Monk Eastman. Le Five Points Gang a fait la transition entre les gangs du XIXe siècle et les organisations criminelles contemporaines nées de la Prohibition. De ses rangs furent notamment issus Johnny Torrio, Al Capone et Lucky Luciano. Quant à Monk Eastman (qui fut abattu en 1920 après être revenu de la guerre de 14-18), il avait parrainé la carrière d'Arnold Rothstein, grand joueur professionnel, ami des politiciens et financier de la pègre.
Un capitaine de police corrompu nommé Charles Becker, essaya, au début des années 1910, de reprendre à son compte les méthodes de la mafia pour régner sur le crime à New York. Le projet progressait bien jusqu'à ce qu'une affaire de meurtre qu'il avait commandité ne mette à jour son système et l'envoie sur la chaise électrique en 1915.
Monk Eastman, l'homme aux cicatrice (mafia juive)