מה לא עושים עם AI בקליניקה: הגבול שנכתב לפני כל השאר
אף צ׳אטבוט לא החליט פתאום לאבחן. זה מתחיל בבקשה קטנה: תוסיף לבוט תשובה על כאבי גב. היא נשמעת כמו תוכן לאתר, ובפועל זה ייעוץ רפואי שאיש מקצוע לא בדק.
מה בדיוק הגבול?
קלוד קוד אינו כלי רפואי. אסור להשתמש בו, או בכלים שנבנו איתו, כדי לאבחן, לפרש בדיקות, להמליץ על תרופה או טיפול, או לענות על שאלה רפואית אישית של מטופל. בקליניקה הוא מתאים לצד האדמיניסטרטיבי בלבד: תורים, מסמכים ותשובות כלליות על לוגיסטיקה. כל החלטה קלינית נשארת בידי איש המקצוע.
אין כאן ערפל. הגבול פשוט: כל מה שנוגע לגוף או לנפש של אדם מסוים הוא שלכם. כל מה שנוגע לאופן שבו הקליניקה פועלת, אפשר לשקול להפקיד בידי כלי. האתר הזה, שמבוסס על חומרי הלימוד של יעקב צדק, לא עוסק בשום דבר שמעבר לגבול הזה.
אילו בקשות נשמעות תמימות ולמה הן חוצות את הגבול?
הסכנה האמיתית אינה שמישהו יבקש במפורש לאבחן. היא שהגבול יתרחב בהדרגה, כל פעם בצעד קטן ונוח. הטבלה הבאה מראה כמה מהצעדים האלה.
| בקשה שנשמעת תמימה | למה זה חוצה את הגבול | מה עושים במקום |
|---|---|---|
| להוסיף לבוט תשובה על כאבי גב | זה ייעוץ רפואי לאדם אנונימי | הבוט מפנה לקביעת תור |
| לנסח למטופל הסבר על תוצאות בדיקה | זה פירוש קליני | הסבר ניתן על ידי איש המקצוע בלבד |
| לבקש מהבוט לבדוק אם הסימפטום דחוף | זו החלטה על דחיפות | הפניה קבועה לשירותי החירום ולקליניקה |
| להציע למטופל תרגילים או תוסף | זו המלצת טיפול | לא נכללת בכלי |
| לסכם שיחה עם מטופל מתוך תמלול | תוכן קליני ומידע רגיש | לא בשלב הבנייה ולא בלי ייעוץ מקצועי |
שלושה שיעורים ראשונים בחינם
50 שיעורי וידאו, 199 דקות תוכן, 3 עד 4 דקות לשיעור, בלי ידע קודם בתכנות. 3 השיעורים הראשונים בחינם.
איך כותבים את הגבול בתוך הכלים?
גבול שקיים רק בראש של מי שבנה את המערכת לא מחזיק. צריך לכתוב אותו במקומות שהסוכן והבוט קוראים. לפחות שלושה:
- קובץ CLAUDE.md של הפרויקט: שורה קבועה כמו "הפרויקט הזה אדמיניסטרטיבי בלבד, לא לכתוב תוכן רפואי". בקורס יש שיעור על הקובץ הזה.
- הוראות הצ׳אטבוט: סירוב מפורש לכל שאלה רפואית, והפניה לאיש מקצוע או לשירותי החירום. הפרטים נמצאים במדריך על צ׳אטבוט לאתר.
- סקירה אנושית: אדם מהצוות קורא כל נוסח חדש לפני שהוא מתפרסם, וכל שינוי בתבניות עובר דרכו.
הרעיון הוא שכשמישהו בצוות יציע בעוד חצי שנה לשפר את הבוט, יהיה כתוב שחור על גבי לבן איפה עוצרים.
למה זה לא עניין של זהירות יתר?
כי היתרון של הכלים האלה הוא בדיוק היכן שהם אמינים: במשימות חוזרות, עם כללים ברורים ותוצאה שאפשר לבדוק. תשובה על מצב רפואי של אדם אינה כזו. היא תלויה בהקשר, בהיסטוריה ובשיקול דעת, וטעות בה נוגעת בבריאות ולא בנוסח של מכתב.
מי שבונה כלי אדמיניסטרטיבי טוב משפר לעצמו את היום, ומשחרר זמן לטיפול. זו המטרה. מי שמנסה לגרום לו לעשות יותר, מוסיף סיכון בלי להוסיף ערך. למי שרוצה ללמוד מה הכלי עושה, אפשר להתחיל מקורס Claude Code בווידאו ולהכיר קודם את היכולות והמגבלות, ורק אחר כך להחליט מה לבנות.
שאלות נפוצות
האם אפשר להשתמש בקלוד קוד כדי לנסח תשובות למטופלים?
רק לתשובות אדמיניסטרטיביות, כמו תיאום תור או הנחיות הגעה. תשובות עם תוכן רפואי נכתבות על ידי איש המקצוע.
ומה לגבי חומר הסברה כללי לאתר?
זה נושא שנמצא על קו התפר, ולכן הוא דורש כתיבה ובדיקה של איש מקצוע. הכלי יכול לסייע בעיצוב ובסידור, לא בתוכן עצמו.
מה אם מטופל שואל את הצ׳אטבוט שאלה רפואית?
הבוט אומר שהשאלה מחוץ לתחומו, ומפנה לקליניקה או, במצב דחוף, לשירותי החירום. הוא אינו מנסה לעזור בתוכן.
האם קלוד קוד מיועד לרפואה?
לא. הוא סוכן שעובד על קבצים במחשב. השיעורים בקורס עוסקים בבנייה, באוטומציה ובעבודה עם קבצים, ולא בשום פעילות קלינית.
רוצים להתחיל מהצד האדמיניסטרטיבי של הקליניקה?
50 שיעורי וידאו, 199 דקות תוכן, 3 עד 4 דקות לשיעור, בלי ידע קודם בתכנות. 3 השיעורים הראשונים בחינם.