דירוג מוסדות אקדמיים
ראשית, איני סבור שיש משמעות לדירוג כוללני מן הסוג שמציע העיתון. מה, למשל, ניתן להסיק מן העובדה ש-MIT נמצאת שישה מקומות מעל אוניברסיטת פרינסטון בדירוג זה? האם המחלקה לפילוסופיה ב-MIT טובה יותר מזו של פרינסטון? באופן דומה, מה ניתן להסיק מן העובדה שפרינסטון מדורגת מעל אוניברסיטת שיקגו ואוניברסיטת קולומביה? האם בית הספר (הלא קיים) למשפטים של פרינסטון טוב יותר מאלה של האוניברסיטאות המצויות אחריה בדירוג? הדוגמאות נועדו להבהיר את האבסורד שבדירוג כוללני של מוסדות בעלי אוריינטציה שונה ומבנה שונה על פני סקאלה אחת.
שנית, המרכיב המשמעותי ביותר של הדירוג, שמשקלו 40%, מבוסס על "הערכה בידי עמיתים" (peer review). הטיימס לא מסביר כיצד הרכיב את רשימת הנשאלים. אם, כפי שאני משער, רשימת הנשאלים מפולגת על פי פיזור האוכלוסיה בעולם, שיטת הדירוג מוטית באופן ברור לטובת מוסדות מחקר של מדינות בעלות אוכלוסיה גדולה (כמו ארצות הברית, סין והודו). אין זה פלא, אפוא, שברשימת מאה האוניברסיטאות המובילות ישנן שתי נציגות לסין ושתיים להודו. בפרסומיהם המדעיים של אנשי הסגל של מוסדות מובילים אלה לא נתקלתי מעולם.
שלישית, הטיימס לא ביקש מאנשי אקדמיה לדרג את כל מוסדות המחקר. דרישה כזו הייתה, כמובן, בלתי מעשית. הוא ביקש מכל משתתף בסקר לספק רשימה של עד 30 מוסדות מובילים, ולאחר מכן בחן את מספר ה"אזכורים" של כל מוסד. החסרון העיקרי של שיטה זו נעוץ בכך שאין היא מאפשרת דירוג ממשי של מוסדות המצויים מחוץ למעגל הראשון של היוקרה האקדמית. נניח שלא ניתן להבחין באופן ברור בין 30 מוסדות מובילים לבין כל האחרים, ושישנה קבוצה של 60-70 מוסדות מובילים, שמתוכם בוחר כל אחד מהמשתתפים את 30 הטובים בעיניו. אכן, יהיו בידינו מספיק נתונים לדירוג פנימי של 60-70 המוסדות המובילים. אולם מה יעלה בגורלם של האחרים? האם יש משמעות אמיתית לעובדה שאוניברסיטה המדורגת במקום 120 נזכרה פעם או פעמיים פחות מן האוניברסיטה המדורגת במקום ה-100?
רביעית, מרכיב חשוב נוסף בדירוג, שמשקלו 10%, מבוסס על חוות דעת של מגייסי כוח אדם. גם כאן לא ברור כיצד הורכבה רשימת המשתתפים בסקר. הפעם מתעורר חשש להטיה מבוססת-עושר. ככל שהמדינה בה פועלת האוניברסיטה עשירה יותר, הסיכוי לשילוב הבוגרים בחברות בינלאומיות גדולות וחזקות גבוה יותר, בלי קשר לרמת הלימודים.
חמישית (וזוהי לדעתי נקודה קריטית), מרכיב שמשקלו 20% מהדירוג הכולל של הטיימס הוא היחס בין מספר הסטודנטים לבין מספר חברי הסגל. ככל שהיחס נמוך יותר המוסד מדורג גבוה יותר. הקיצוצים בתקציבי ההשכלה הגבוהה בישראל הביאו לכך שהיחס בין מספר הסטודנטים למספר חברי הסגל בישראל הוא גרוע, בלשון המעטה. המרכיב הזה אינו קשור למידת הפרודוקטיביות של חברי הסגל בישראל או לאיכות מחקריהם. היחס בין מספר הסטודנטים למספר חברי הסגל הוא פונקציה של תקציב. לכן כל מי שחושב שצריך להמשיך לקצץ – אל יתפלא ואל ילין על כך שהמוסדות הישראליים יורדים בדירוג של הטיימס.**
שישית, מרכיב נוסף בדירוג הכולל, שגם משקלו 20%, הוא מספר הציטוטים של מאמרים אקדמיים לכל איש סגל. שיטת מניין-הציטוטים היא אכן שיטה מקובלת להערכת איכות יחסית. אולם ככל שהיא מתיימרת לאפשר דירוג בינלאומי מהסוג המוצע על ידי הטיימס הריהי סובלת מהטיה ברורה לטובת מוסדות הפועלים במדינות דוברות אנגלית. הטיימס מודה בכך שמניית הציטוטים נעשתה באמצעות מאגר אמריקאי המכיל בעיקר מידע על כתיבה אנגלית, ואינו מציע פתרון מניח את הדעת לבעיה זו. אין זה פלא, אפוא, שאוניברסיטאות קיימברידג' ואוקספורד מדורגות במקומות 3-2, בעוד שאוניברסיטת סורבון מדורגת במקום ה-200...
שביעית, חרף היתרונות הידועים של דירוג-מבוסס-ציטוטים אין להתעלם מכך שמניין הציטוטים תלוי במידה רבה בתחום המחקר, ובענפי המשנה בתוכו. מאמר של מומחה למימון יצוטט הרבה יותר ממאמר של מומחה לאנתרופולוגיה בלי קשר לאיכות המחקר, עומקו ומידת תרומתו לידע האנושי. מאמר של מומחה למשפט חוקתי יצוטט הרבה יותר ממאמר של מומחה לדיני נזיקין, שוב בלי קשר לאיכות. עד עתה לא נעשו ניסיונות רציניים להתגבר על קושי זה, ולכן שימוש עקיב בשיטת מניין הציטוטים יתרום להנצחת מבני-הכוח בתוך העולם האקדמי.
שמינית, 10% מהדירוג של הטיימס מבוסס על שיעור הסטודנטים והמרצים הזרים. הפרמטרים הללו מטים את הדירוג באופן ברור לטובת מוסדות שבהם שפת הלימוד היא אנגלית. יתר על כן, אי אפשר להתעלם מהשפעת המצב הגיאופוליטי על נכונותם של סטודנטים ומרצים זרים להגיע לישראל. מיעוטם אינו מהווה ראיה לנחיתות המוסדות הישראליים, אלא למציאות הישראלית המורכבת.
תשיעית, הדירוג מתעלם מגורמים בעלי חשיבות רבה בהערכת מוסדות אקדמיים, כגון דרישות הקבלה (בחינות פסיכומטריות, הצטיינות בלימודים קודמים וכו') או שיעור התעסוקה של בוגרים (בכוונה איני מתייחס לשיעור ההכנסה – לנוכח תלותו הרבה במיקום). הטיימס מסביר כי מדובר בגורמים שלא ניתן להשתמש בהם לצורך השוואה בין מוסדות הפועלים במדינות שונות. דא עקא, אי אפשר להתעלם מהם בהערכת הצלחתם של מוסדות אקדמיים. פירוש הדבר הוא שהניסיון להציע דירוג בינלאומי כולל של מוסדות מחקר נועד מלכתחילה לכשלון.
עשירית, וחשוב מכל: קביעת המשקל של כל אחד מן הפרמטרים שכן נכללו בדירוג נראית שרירותית לגמרי. איזה צידוק, למשל, ניתן להציע למתן משקל של 40% לשיפוט בידי עמיתים ו-20% בלבד לציטוטים? אילו היינו משנים את משקלם היחסי של שני הפרמטרים הללו ל-35% ו-25% בהתאמה הדירוג הכולל היה משתנה לחלוטין. זוהי ראיה נוספת לחוסר הרצינות של דירוג "מרוכב" מהסוג המוצע בזאת.
* התמונה מתוך Wikimedia-Commons.
** [תיקון 13.2.2007] בעקבות הערתו של יונתן כהן מן הראוי להבהיר ולהדגיש כי טענה זו נבדלת מכל האחרות. בעוד שיתר טענותיי מופנות במישרין כנגד שיטת הדירוג של הטיימס (וביתר דיוק – כנגד מידת הקורלציה בין הדירוג לבין איכות אקדמית), טענתי החמישית מופנית, למעשה, כנגד השימוש המניפולטיבי שנעשה בדירוג זה במסגרת השיח הציבורי. היחס בין מספר הסטודנטים לבין מספר המרצים הוא, אף לדעתי, מדד מסוים לרמת השירות שניתן לסטודנטים. אך יש לזכור כי נתון זה קשור קשר בל יינתק לתקציב. לכן לא ניתן להלין על מקומן של האוניברסיטאות הישראליות בדירוג, ובד בבד להצדיק את שימור המציאות התקציבית הקיימת או – פשוט – להתעלם ממנה בהצגת הנתונים.
16 תגובות:
ניתוח מצויין!
ד"ר פרי,
ראשית, אני מקבל ברובה את הביקורת על הדירוג, אולם, לא די בביקורת. מה האלטרנטיבה לטעמך? האם אתה סבור שבדיקה אחרת, "אובייקטיבית יותר", מוסדות ההשכלה הגבוהה בישראל, ואוניברסיטת חיפה בפרט, ידורגו במקום טוב יותר? מסופקני.
שנית, האלטרנטיבה בה אני דבק היא מדידת רמת ההכנסה של בוגרי חוגים/פקולטות/אוניברסיטאות וכו' כעבור X שנים, כמדד לאיכות המוסד. אמת, הדבר אינו מצביע בהכרח, ובאופן ישיר על איכות המחקר, אך יתרונותיו ברורים:
1. עבור מרבית האנשים מוסד הלימוד הוא השקעה לשם יצירת הכנסה עתידית. ברור שההכנסה הממוצעת של בוגרי המוסד מהווה שיקול מכריע בהחלטה היכן ללמוד (וזה מה שחשוב בסופו של דבר), למעלה מהצטיינותו של החוקר הספיציפי בתחום דיני הנזיקין.
2. מדד ההכנסה (וספציפית, הכנסת החוקרים במוסד האקדמי) מהווה גם אינדיקציה לגבי איכות המחקר. כן, ברור שהמחקר בהרווארד עולה על המחקר ב... בין היתר משום שהרווארד יכולה למשוך חוקרים מצטיינים באמצעות משכורות ותנאים משובחים. באופן זה ניתן להתגבר על הכשלים שהצגת (ציטוט רב יותר של מאמר בתחום X על מאמר בתחום Y, למשל).
סביר להניח שטענת הנגד העיקרית תהיה הבדלי ההכנסות הנובעים ממיקומו הגיאוגרפי של כל מוסד (מדינה עשירה / ענייה וכו'). אולם, בעידן של שוק גלובלי, בו חוקרים מוכשרים מועסקים ללא קשר למדינת מוצאם ברור שהטיעון הזה אינו יכול לתפוס. וכן, אין ספק שעדיף מבחינה כלכלית ללמוד באוניברסיטה נידחת בארה"ב, שממוצע ההכנסה של בוגריה עולה בהרבה על אוניברסיטה מובילה במדינה מזרח תיכונית מדשדשת.
(-) סטודנט
רונן,
ניכר שמומחיותך איננה במחקר חברתי. ראשית אתה מבלבל בין תיאור וסיבה. דירוג נועד לתיאור וההסברים לסיבות שהובילו לדירוג הם על אחריות המפרש. למשל, אין ספק שיש יתרון למדינות דוברות אנגלית בדירוג, אבל כנראה שהיתרון הזה משקף יתרון באיכות האקדמית כי הם יותר מצוטטים. זה אולי "לא פייר" אבל זה המצב. שנית, אכן יחס מרצים.סטודנטים בארץ הורע בגלל הקיצוצים, אבל הקיצוץ אכן פגע באיכות ההוראה שהיא חלק מאיכות אקדמית וכו'. בקיצור, יכול להיות שאנחנו באקדמיה הישראלית נורא נחמדים ואילו היו לנו תנאים יותר טובים היינו מדורגים גבוה יותר - אבל אין לנו תנאים כאלה ולכן מצבנו בטטה.
שנית,דירוג נועד למטרות מסוימות (לפעמים למי שעומד לבחור אוניברסיטה לילדו/תו ולפעמים לצורך תקצוב) ומי שמוציא את הדירוג מהקשרו עושה זאת על אחריותו בלבד.
לכן, י שרוצה לבחור מחלקה לדוקטורט (נניח בפילוסופיה)טוב יותר שלא ישתמשבדירוג כללי אלא בדירוג אחר (למשל של פילוסופיה. בודאי שדירוג מהסוג שאתה מנתח איננו מתאים לכל מטרה.
שלישית, כשניגשים לדרג משהו מורב כמו איכות אקדמית באופן כמותי (שאחרת קשה עשות בו שימוש כלשהו) הרי שחייבים לקבל הנחות מסוימות שתמיד יאפשרו לבקר את הדירוג באופן כזה או אחר. בדיוק לכן מספקים מידע על מתודולוגיה שמאפשרת לך לבדוק את ההתאמה לצרכיך. למרות כל הבעיות הדירוגים השונים נמצאים בהסכמה יחסית גבוהה וכנראה שהם אינם שרירותיים. אכן, אתה צודק, כשמגיעים לתחתית הרשימה ההבדלים מגוחכים (כל סטטיסטיקאי מתחיל יודע זאת, כי הממוצעים נמוכים וסטיות התקן גבוהות) ולכן צריך לקרוא דירוגים כאלו בזהירות רבה.
ועדיין, יד ערך מסוים בדירוגים הללו ועד שיהיה לנו פתרון מוצלח יותר בואו ננסה לשפר את עצמנו במקום להלין על הדרך בה אנחנו נבחנים.
וכל זאת בלי לומר ולו מילה אחת טובה (כי אין לי כזאת) על הגב' ארלוזורוב והשאיפות שלה לחיסול האקדמיה.
This is an excellent analysis . My only worry is that we preach to the converted ( i.e. ourselves). May I suggest that you present this critique to the general public in the form of an op-ed piece in one of the newspapers.
Best,
A.Z. Guiora
שלום ד"ר פרי
אני הייתי לוקח את מאמרך צעד אחד קדימה ומנתח בצורה אלטרנטיבית את המוסדות להשכלה גבוהה למשפטים בישראל
שיהיה בהצלחה וזכור את הערותיך הרבות כך שהן תתרומנה לניתוח ניטראלי אמין ומדויק יותר
תגובה ליוני-
כתבת שדירוג נועד לתיאור וההסברים לסיבות שהובילו לדירוג הם על אחריות המפרש. ככל הנראה לא הבנת את המאמר. זו תגובה לכתבות של דה-מארקר שבהן נעשה ניסיון להסביר את הדירוג האנגלי במונחים של נחיתות האקדמיה הישראלית. המאמר נועד להציע הסברים חלופיים על ידי ניתוק הקשר בין הדירוג האנגלי לבין איכות. חוץ מזה, מה המשמעות של תיאור שאין לו תוכן? ניכר שאינך איש אקדמיה, שכן אילו היית חוקר היית מבין שתיאור מספרי בלי הסבר הוא חסר משמעות. השאלה שתישאל תמיד היא מה בדיוק אומרים המספרים. אז מה המשמעות של המספרים? מה המשמעות של המספרים שמציג העיתון האנגלי? זה ביטוי לאיכות? פרי מסביר שלא, והוא משכנע בכך.
לאנונימי שביננו,
אם המאמר היה תגובה לכתבות בדה-מרקר אז מדוע הוא בוחר לפתוח במתקפה על הדירוג? הבעיה, את/ה צודק/ת, היא בפרשנות שלה ולא בדירוג. הדירוג איננו מסמך אקדמי והערך שלו נמדד לא בפרשנות (אגב, גם תיאור הוא תוכן ולא רק פרשנות) אלא בערך שלו למי שהוא נועד עבורו. דרוג שכזה בעיתונות כללית, נועד לתת לציבור הרחב מושג כללי לגבי האוניברסיטאות בעולם (ויותר מכך, למכור עיתונים) וככזה, הוא מספק.
לבנות מדיניות על סמך דירוג כזה זו אווילות ולבנות ביקורת מופרכת כמו זו בדה-מרקר זו אווילות משרישה. ועדיין יש הבדל בין לבקר את בסיס הנתונים ולבקר את המסקנה. נתונים ללא פרשנות אכן דורשים פרשנות אבל אין זה אומר שכל פרשנות היא הגיונית. עיתונות טובה (משהו לא מוכר במקומותינו)לעיתים קרובות מספקת נתונים גולמיים (שכמובן גם בהם יש סלקציה שהיא פרשנות מינמאלית) ומשאירה לקוראים את מלאכת הפרשנות. החשיבות בנתונים כאלה היא שהם פותחים בדיון ולאוו דווקא סוגרים אותו.
לגבי - אם האוניברסיטאות בארץ נחשבות לאקדמיה אז אני איש אקדמיה - אשאיר לך את הפרשנות.
לאחר שיח האנונימיים מן הראוי להבהיר: אני תוקף הן את הדירוג והן את השימוש שעשתה בו מירב ארלוזורוב. אבל הפוסט הזה אכן מתמקד יותר בביקורת על הדירוג עצמו.
אין לי שום טענה כנגד המהימנות של בסיס הנתונים. אני פשוט טוען שכל אחד מהפרמטרים המשוקללים, כשהוא לעצמו, מהווה אינדיקציה בעייתית ביותר לאיכות אקדמית, וכי שילובם נעשה על פי נוסחה שרירותית. קשה לי להבין כיצד ניתן לחלוק על טענות אלה. במובן זה אני אהיה בוטה יותר מן האנונימי הראשון: הציונים הסופיים של הטיימס הם מבחינתי חסרי ערך.
ולגבי אלה שביקשו דירוג אותנטי: אני עובד על זה. בהתאם לתפיסתי הדירוג צריך להתבצע עבור כל דיסציפלינה בנפרד, ובכל מקרה יש להעדיף כמה דירוגים המבוססים על קריטריונים פשוטים שניתן לעשות בהם שימוש מושכל על פי הצורך מאשר דירוג אולטימטיבי המבוסס על הרכבה מלאכותית של פרמטרים שונים. כאמור, כל נתון עשוי לעניין קבוצה שונה של אנשים.
המודל שאני רואה לנגד עיניי הוא זה של הפרינסטון רוויו. ראו:
http://www.princetonreview.com/law/research/rankings/rankings.asp
הנה הקישורית בשלמותה:
http://www.princetonreview.com/law/research/
rankings/rankings.asp
רונן יקירי,
מבחינתך הנתונים חסרי ערך. זה בסדר.
בסה"כ ניסיתי לרמוז שהעולם לא כולו סובב סביבך ושהטיימס לא מחוייב לספק לך נתונים בעלי ערך בשבלך! אנ בטוח שאוניברסיטת חיפה איננה מעניינת לטימס את קצה הפופיק- אם כל הכבוד.
כל דירוג יש לשפוט לפי מטרותיו הוא, ולא לפי מטרותיה של עיתונאית חסרת בינה. אני בטוח שגם המדד שאתה תמציא (ובהצלחה לך) יהיה חסר ערך עבור כל מיני אחרים שמטרותיהם אחרות. "איכות אקדמית" אינו מושג חד ערכי ומשמעותו שונה אם אתה סטודנט פוטנציאלי, מחפש משרה, או פקיד ממשל.
יוני
תיקון טעות: כמובן: עם כל הכבוד.
ראשית, כתבתי שאני מעדיף את השיטה של פרינסטון רוויו. אם תדקדק בפרטיה תראה שחלק מהביקורת שלך פשוט לא מוצדק.
שנית, אני בטוח שאוניברסיטת חיפה לא מדגדגת לטיימס את קצה הפופיק, אבל גם הטיימס לא צריך לדגדג את שלנו. בכל הכבוד, עד כמה ניתן לסמוך על עיתון אנגלי שממקם בשלישיה הראשונה שני מוסדות אנגליים? זו עובדה שהייתה צריכה להדליק נורה אדומה אצל כל בר דעת. אני טוען בעקביות שהמדרג שולט בדירוג. אם תרצה - אני אמציא שיטת דירוג שבה אוניברסיטת חיפה תהא ראשונה. השורה התחתונה היא שלדעתי לא צריך לייחס יותר מידי חשיבות לדירוג של הטיימס מהטעמים שפירטתי בפוסט עצמו. אני בטוח שגם בדארטמות, גו'רג'טאון, רייס, טאפטס, אוניברסיטת וירג'יניה ועוד מוסדות רבים אחרים שנדחקו בדירוג הזה למקומות מופרכים בעליל לא מתייחסים אליו ברצינות.
שלישית, אם תרצה (ותזדהה) אוכל לספר לך עד כמה הביקורת שלי על שיטות דירוג השפיעה על דירוגים מסוימים בארצות הברית. אבל זה כבר לא קשור לפוסט, אלא למידת הנכונות של העולם לקבל ולהפנים ביקורת שמגיעה מארצנו הקטנה (שאתה, כנראה, ממעיט מערכה).
אין ספק ניתוח מבריק בעקבותיו נכנסתי לקישור שנתת וגם שם גיליתי ניתוח מבריק.
אוניברסיטת וושינגטון אנד לי ג'ונסון הינה האוניברסיטה עם איכות הפרופסורים הטובה ביותר לפי הדירוג של פרינסטון.
לא ייל, לא הארוורד. וושינגטון אנד לי ג'ונסון.
כל נקיטת עמדה מאפשרת ביקורת עליה וכך גם דירוגים אבל יש תובנות שעליהם לא ניתן לחלוק.
מוסדות אקדמיים בהודו הזוכים לתקציב עצום מצליחים להביא פרופסורים ללמד שם מהאוניברסיטאות המובילות בארה"ב. בישראל רק תודות לסנטימנט היהודי מצליחים מדי פעם ללכוד איזה אחד או שניים. מצב האקדמיה בישראל בכי רע. לא צריך להתעלם ממנו בתקיפת השליח (הדירוג).
להיפך, הדירוגים היום משקפים מוניטין לו זכו האוניברסיטאות בארץ לפני עשור ומחצה (משום שהפיר רויו מבוסס על פרופסורים שמכירים את חבריהם שלמדו בארץ באותה תקופה)
היום המצב גרוע יותר.
מירב ארלוזרוב היא תסמין של הזלזול הכללי באקדמיה. הפתרון הוא או מאבק ציבורי או מעבר להארוורד או ייל אבל לא לוושינגטון אנד לי ג'ונסון.
תודה למגיב האחרון. רק הערה קטנה. בית הספר המדורג שם ראשון קרוי על שם ג'ורג' וושינגטון - נשיאה הראשון של ארצות הברית, ורוברט לי - שהיה מפקד כוחות הקונפדרציה במלחמת האזרחים, וככל הנראה עמד בראש האוניברסיטה (אם כי בעובדה זו איני בטוח).
מה לגבי דירוג של פקולטאות למשפטים בישראל?
לא הגיעה העת?
מלבד דעות הסטונדטים יתר העבודה היא די פשוטה. הלא כן?
דווקא יש דירוג של הפקולטות למשפטים והוא לא רע בכלל. אמנם הוא מתקן את רוב הבעיות שד"ר פרי מעלה - אבל יש לו בעיות משלו אם הבנתי נכון את שיטת המחקר שלו.
הוסף רשומת תגובה
שימו לב! פרסום תגובה הינו על אחריות הכותב/ת בלבד. מערכת הבלוג אינה עורכת ו/או מבקרת את התכנים לפני פרסומם. אנא הפעילו ריסון עצמי והיזהרו מפני הוצאת לשון הרע או כל הפרת חוק אחרת.
חזרה לעמוד הבית >>