בשנת 1903 החל להגיע לחופי ארץ-ישראל גל עלייה חדש. בתוך גל עלייה זה התבלטה קבוצה קטנה של עולים שהיו שונים מקודמיהם: צעירים שעלו בגפם או עם חברים בני גילם. רבים מהם היו בעלי רעיונות מהפכניים ואמונה שבכוחם 'לשנות את העולם' להפוך אותו לטוב יותר, לצודק ולשוויוני. לקבוצת עולים זו קוראים 'העלייה השנייה'. מה גרם לצעירים אלה לעלות לארץ-ישראל? מה הביא אותם לרעיונות המהפכניים? בשנת 1903, קרוב לימי הפסח, פרצו פרעות בעיר קישינב שברוסיה, שמאוחר יותר נקראו 'פרעות קישינב'. בראשון לחג פסחא הנוצרי, התנפלו מאות פורעים על היהודים ובמשך שלושה ימים עשו בהם שמות. האוכלוסייה הלא יהודית בקישינב תמכה בפורעים ועודדה אותם. לא נעשה אף ניסיון אמיתי על-ידי השלטון המרכזי לעצור את הפורעים. 49 יהודים נרצחו, מאות נפצעו ורכוש הקהילה הושמד. שלושת ימי הפוגרום זעזעו את יהודי רוסיה. שמען של הפרעות יצא בכל העולם, והדעה הרווחת הייתה שטובת היהודים מחייבת לעזוב את רוסיה. החשש לגורל היהודים עלה בקונגרס הציוני השישי שהתכנס בשנת 1903. הקונגרס הציוני ייצג את כל הציונים בכל רחבי העולם. בקונגרס הועלתה הצעה לפיתרון. כיוון שהרצל, מייסד הקונגרס הציוני, לא קיבל את הזיכיון לעליית יהודים לארץ-ישראל ולהתיישבותם בה, הציעו לו הבריטים, ששלטו בתקופה ההיא בחלקים מיבשת אפריקה, ליישב את היהודים במזרח אפריקה. התוכנית להתיישב שם נקראה 'תוכנית אוגנדה', והוצעה כפיתרון זמני. התוכנית עוררה תגובות רבות. מקצת מהיהודים ראו בה פיתרון מצוין, בעוד שאחרים התנגדו בחריפות לתוכנית התיישבות כלשהי מחוץ-לארץ-ישראל, שהיא מנוגדת לעקרונות הציונות. הרצל נפטר בשנת 1904 ורבים חששו שהארגון הציוני שעלה ביוזמתו ייעלם עם מותו. אך המפעל הציוני היה כבר נטוע היטב בלב רבים והמשבר בתנועה הציונית הביא משב רוח חדש בקרב צעירים יהודים וזירז את עלייתם לארץ.
רבים מצעירים אלה הושפעו מהרעיונות החדשים שפשטו באירופה באותה תקופה: שוויון בין בני האדם, קשר לטבע ורעיונות נוספים. הם רצו להפוך להיות פועלים, עובדי אדמה ולבנות חברה צודקת יותר. כשנתיים אחרי פרעות קישינב, בשנת 1905, החלה מהפכה ברוסיה. מנהיגי המהפכה רצו שהשלטון במדינה יהיה צודק ומבוסס על שיוויון. היהודים קיוו שבעקבות המהפכה יינתנו גם להם זכויות שוות, ורבים מהם הצטרפו למהפכה. כתוצאה מן המהפכה הכריז השליט על חופש וזכויות לאזרחים. בסופו של דבר, המהפכה נכשלה והיהודים סבלו מכך במיוחד. מייד אחרי ההכרזה על שוויון זכויות, עברו על היהודים פרעות קשות, כאשר גם יחידות צבא מקומיות סייעו בידי הפורעים. הפרעות הקשות מכולן נערכו באודסה, ובהם נהרגו 300 יהודים וכ-40 אלף ברחו מבתיהם. במשך 12 ימים התחוללו 690 פוגרומים (פרעות) ב-600 יישובים. יהודים רבים נהרגו ונפצעו, אחרים הפכו לפליטים ורכוש יהודי רב נהרס ונבזז.
רבים מהצעירות ומהצעירים היהודים שלקחו חלק במהפכה השתייכו לתנועות נוער, שפעלו למען שוויון בין בני אדם. לאחר כישלון המהפכה ברוסיה הם ניסו למצוא פיתרון אחר. מקצתם בחרו להצטרף לעולים לארץ-ישראל. בארץ שלטו התורכים. רוב התושבים היו ערבים ומיעוטם יהודים. צעירי העלייה השנייה ניסו להתקבל לעבודה במשקים של אנשי העלייה הראשונה, שעלו זמן קצר קודם לכן וגרו במושבות. אולם, רבים מאנשי העלייה הראשונה העדיפו לקחת לעבודת האדמה פועלים ערבים ששכרם היה נמוך יותר ומיומנותם בעבודה גבוהה יותר. פרט לכך חששו אנשי העלייה הראשונה שבניהם ובנותיהם יתוודעו אל הצעירים והצעירות שרעיונותיהם המהפכניים לא התיישבו עם השקפת עולמם השמרנית. לפיכך התקשו צעירים וצעירות אלו למצוא עבודה, וסבלו ממצוקה כלכלית, מרעב וממחלות. רבים מהצעירים עזבו, אך קומץ קטן התעקשו להמשיך בדרך שבה התחילו. הם הבינו שאיש מלבדם לא יגן על זכויותיהם ולכן עליהם להתארגן בקבוצה ולפעול יחד בכל התחומים. הם הקימו מפלגות שניסו לשמור על זכויות הפועל בארץ-ישראל.
רוב העבודה בארץ הייתה בידי הערבים וכמוה גם רוב השמירה. העולים, שזכרו את הפרעות הקשות בחוץ-לארץ ונתקלו בהתנגדות ערביי הארץ לפעילות היהודים, החליטו להקים כוח עברי שיגן על יישובים יהודים. בהתחלה הוקם ארגון קטן וחשאי שנקרא 'בר-גיורא', שהפך לארגון גדול יותר - 'השומר'. חברי 'השומר' שמרו על יישובים יהודים רבים בארץ, כמו: זכרון יעקב, ראשון לציון ועוד.
המצב בארץ ותפיסת העולם החברתית של העולים הצעירים, הובילו חלק מהם להקים יישוב, שבו חיים על פי עקרונות של שיתוף ושל שוויון בכל התחומים: חלוקת נטל העבודה, מזון, תנאי מגורים, לבוש, חינוך ותרבות. צורת התיישבות זו נקראה 'קבוצה'. ה'קבוצה' הראשונה בארץ-ישראל הוקמה על אדמות אום ג'וני ליד הכינרת והיום היא נקראת דגניה א'. רבים מהצעירים שעלו והאמינו ברעיון החייאת העם היהודי, הקפידו לדבר עברית, המשיכו לכתוב סיפורים בעברית, ואף ייסדו מספר עיתונים בעברית. בשנת 1908, כמה שנים לאחר תחילת העלייה השנייה, הקימה ההסתדרות הציונית את המשרד הארץ-ישראלי. תפקידו היה לפתח את היישוב היהודי בארץ. המשרד עזר להכשיר פועלים להתיישבות; בחן דרכים חדשות בפיתוח חקלאות עברית מודרנית; ארגן בעלי הון להקמת אחוזות מטעים; סייע בהקמת יישובים חקלאיים ובבניית השכונה 'אחוזת בית', שממנה קמה העיר תל-אביב. פעולות המשרד הארצישראלי עזרו לאנשי העלייה השנייה להסתדר בארץ.
באותה שנה פרצה מרידה בתורכיה, שארץ-ישראל הייתה בשלטונה, מרידה שהייתה לה השפעת-מה על אנשי העלייה השנייה. בחורים תורכים מהפכנים שרצו שינוי, מרדו בצבא התורכי, שבתו ברחבי ארצם וניסו להפוך את השלטון הקיים. מהפכתם נקראה 'מהפכת התורכים הצעירים'. עולי העלייה השנייה קיוו שהמרד יצליח והשליטים החדשים יתייחסו בהבנה גדולה יותר לרעיון של קניית אדמות ועבודת אדמה. מהפכת התורכים הצעירים לא ענתה על ציפיות אנשי העלייה השנייה.
עלייה זו נפסקה עם פרוץ מלחמת העולם הראשונה בשנת 1914.