<html><head><meta http-equiv="content-type" content="text/html; charset=utf-8"></head><body dir="auto">Check This from NSF Today<br><br><div dir="ltr"><div><div>I’ve only glances at it. </div></div></div><div dir="ltr"><br>On May 18, 2021, at 08:32, Rahuman Sheriff <sheriff@ebi.ac.uk> wrote:<br><br></div><div dir="ltr"><meta http-equiv="Content-Type" content="text/html; charset=us-ascii">Dear John G,<div class="">Many thanks for the update.</div><div class="">I like the new ordering :)</div><div class=""><br class=""></div><div class="">@Jacob, as you mentioned you have 6 versions, could you please add the link to those versions in  John G document, so they are all inked.</div><div class="">I give consent to to rephrase my contribution or even remove part or all of my contribution to the white paper and present the ideas in other sections if required to make the paper coherent and flow well.</div><div class=""><br class=""></div><div class="">The white paper has a great collections of ideas, I hope we can get it into a  good shape soon for submission and benefit the scientific community.</div><div class=""><br class=""></div><div class="">Best regards</div><div class="">Sheriff</div><div class=""><br class=""></div><div><br class=""><blockquote type="cite" class=""><div class="">On 18 May 2021, at 13:28, James Osborne <<a href="mailto:jmosborne@unimelb.edu.au" class="">jmosborne@unimelb.edu.au</a>> wrote:</div><br class="Apple-interchange-newline"><div class=""><div dir="ltr" class="">Sorry I wasn't on the call Yesterday (it was 1 am for me so not really achievable). Looking at the emails looks like it was useful. <div class=""><br class=""></div><div class="">Happy to help how I can, in terms of areas as someone on the multicellular side of life i'm probably most use on 3 but happy to support others.</div><div class=""><br class=""></div><div class="">James </div></div><br class=""><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, May 18, 2021 at 3:12 PM John Gennari <<a href="mailto:gennari@uw.edu" target="_blank" class="">gennari@uw.edu</a>> wrote:<br class=""></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">

<div class="">

<div class="">

<div style="font-size: 12px; text-align: left; font-family: Helvetica, Arial, sans-serif;" class="">

<strong class="">

<table style="width:100%;float:left" border="0" cellspacing="0" cellpadding="0" class="">

<tbody class="">

<tr class="">

<td style="color:red" class=""><b class="">External email: </b>Please exercise caution</td>

</tr>

</tbody>

</table>

</strong><br class="">

</div>

<hr class="">

</div><p class=""><br class="">

<p class="">All: About 9 of us had a lively Zoom meeting today to chat about the manuscript. By the end, it was a productive meeting, and I'm hoping that this email will capture some key outputs from the meeting. I apologize if I said some things that were a bit "inflammatory".

 Obviously 2 years would be much too long to get this paper out-the door. <br class="">

</p><p class="">I saw two outcomes. First, we had some nice ideas and discussion about re-ordering (initiated by Tomas Helikar). In the below, I'm going to propose one possible ordering, but this is certainly a work-in-progress. The reason that I think ordering is important

 is that it will give us a much better ability to write a strong concluding section, where we talk about themes and the larger arc of our ideas.

<br class="">

<p class="">Second, we agreed that we should nominate "point persons" who would be in charge of at least the initial cut of each of the subsections. As Jacob pointed out, this information should be easy to get from older email and history of the development of the paper.

 During the zoom meeting, we associated some co-authors with some sections, but our coverage wasn't perfect (see challenge #12). Hopefully people will "stand up" and admit that some section of text is theirs.

<br class="">

</p><p class="">So in the below, I include the original title of the section, a few words about the content of that section, and then a name (or several names) of co-authors who will be the "point person" to make sure that the appropriate content is included. Obviously,

 all co-authors can and should chime in on any part of the text, but the point person should make sure that the key ideas are included.

<br class="">

<p class="">The basic ordering idea for the dozen challenges was to follow the life-cycle of model development, execution, sharing and integration, and eventually implementation. So...

<br class="">

</p><p class="">*********************************************<br class="">

<p class=""><b class="">(1) "<b class="">Data<b class=""> and measurement definitions". Before you can build a model, you must have data. So data availability and measurement standards is the place to start.

<br class="">

</p><p class=""><b class="">People: </b>Hana D, Jacob B<br class="">

<p class=""><b class="">(2) "<b class="">The variety of modeling languages" This is about the choice of modeling languages, such as using SBML, CellML, or Matlab. As I said on the phone call, this is sort of about "syntax"--how do you write down your model?

<br class="">

</p><p class=""><b class="">People:</b> John G, Jon K, Rahuman S.</p><p class=""><b class="">(3) "</b><b class="">The variety of modeling paradigms and scales"</b><b class=""> </b>Separately from modeling syntax, we must acknowledge modeling paradigms with very different semantics. Some clear examples are PDEs versus ODEs versus rule-based systems (and obviously

 one can combine these). Certainly semantics might impact syntax (the prior challenge), in that certain modeling language might be appropriate only for some paradigms.</p><p class="">People: James G, Eric F (?) <br class="">

<p class=""><b class="">(4) "<b class="">Units standardization" A common reason that models are not reproducible are errors in units, or misunderstanding about units, or simply a lack of information about units.

<br class="">

<p class="">People: Jacob B, Hana D<p class=""><b class="">(5) "<b class="">A lack of annotations in models". Once researchers publish models, they must annotate the model so that others can understand it. Quality annotation is essential for both search and reproducibility.

<br class="">

</p><p class="">People: John G.</p><p class=""><b class="">(6) "</b><b class="">Models are hard to locate"</b> If your goal is to reproduce, understand and possibly reuse or integrate some other model, one must first find that model. This requires annotation (prior section) and repositories (Physiome Model Repository,

 BioModels) and search platforms (ModeleXchange). <br class="">

</p><p class="">People: Jon K, John G.</p><p class=""><b class="">(7) "</b><b class="">Common platforms to execute models" </b>A model is pretty worthless as a static object. For folk to understand and reproduce models they must be executable. Alas, there is no single or consistent way of executing a model -- and of course,

 this interacts direction with section #2 and #3, above: Execution platforms are usually only for one modeling paradigm, and often for one modeling language. The BioSimulators work goes here.</p><p class="">People: Jon K. <br class="">

</p><p class=""><b class="">(8) "</b><b class="">Credibility </b><b class="">and validity of models</b>" Once a model is published, how do folk know it is right? Model validation is a big topic and challenge. Credibility follows (in part) from validation, but also requires transparency and reproducibility,

 etc. <br class="">

<p class="">People: John Rice, Jon K, Jacob B<p class=""><b class="">(9) "<b class="">Environments to adapt and integrate models" As I see it, one of the end-targets for this manuscript is to better enable model integration, to build better models. There are many challenges with the task of integrating two (or more) models.

 (One that has recently been discussed is that even if model A and model B are valid and correct, there is no guarantee that the combined model A+B is correct. I liked what William Waites and Katherine Morse posted on this subject.) This section is where SBML-comp

and SemGen environments can be mentioned.<p class="">People: John G.<p class="">(<b class="">10) "Challenges for stochastic models" Special challenges specific to stochaistic modeling. An obvious point to mention is repeatability -- stochastic models don't necessarily give the same results with the same inputs.

<br class="">

</p><p class="">People: James G., Eric F<br class="">

<p class=""><b class="">(11) "Licensing barriers" Issues around "open source" and CC0 licensing.

<br class="">

<b class=""></b></p><p class="">People: Jacob B<br class="">

</p><p class=""><b class="">(12) "Barriers to model implementations and applications"</b>  (I might suggest this be re-phrased for better clarity). What this section should discuss are challenges is getting a community to actually use models for "real-world" applications or decision

 making. This is more of a cultural/societal challenge, and thus seems like a nice big-picture way to end.

<br class="">

</p><p class=""><b class="">People: ?? </b>I don't have any names here...<br class="">

<p class="">*********************************************<p class="">We didn't really talk much about it in the Zoom meeting, but there have been ideas tossed around about a "baker's dozen", i.e., adding a 13th challenge. We could also potentially merge some of the above.

<br class="">

</p><p class="MsoNormal">The "point persons" listed above is obviously a subset of co-authors. That's fine and appropriate. Just for transparency, I follow what I think is pretty standard policy for authorship issues, and nicely summarized by the<span style="font-family:Helvetica,sans-serif" class="">

 International Committee of Medical Journal Editors (ICMJE); see 2019 updated document at

<a href="http://www.icmje.org/icmje-recommendations.pdf" target="_blank" class="">http://www.icmje.org/icmje-recommendations.pdf</a>  (Or see, below my signature, a summary of the key points of this document).

<br class="">

</p><p class="MsoNormal">Finally, I've made the document editable by all at <a href="https://docs.google.com/document/d/1VvyP3YZQdQYjj8DFKOpQ4pn_0pdDGgiT/edit?ts=60a294c2" target="_blank" class="">

https://docs.google.com/document/d/1VvyP3YZQdQYjj8DFKOpQ4pn_0pdDGgiT/edit?ts=60a294c2</a>

<br class="">

<span style="font-family:Helvetica,sans-serif" class=""></span></p><div class=""><br class="webkit-block-placeholder"></div><p class="">-John G.<br class="">

==========================================================================<br class="">

Associate Professor & Graduate Program Director      <a href="mailto:gennari@uw.edu" target="_blank" class="">

<gennari@uw.edu></a><br class="">

Dep't of Biomedical Informatics and                  telephone:206-616-6641<br class="">

    Medical Education, box 358047                 <br class="">

University of Washington<br class="">

Seattle, WA  98109-4714             <a href="http://faculty.washington.edu/gennari/" target="_blank" class="">

http://faculty.washington.edu/gennari/</a><br class="">

==========================================================================<br class="">

<br class="">

</p><div class=""><br class="webkit-block-placeholder"></div><p class="MsoNormal" style="margin-left:0.25in"><span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class="">The ICMJE recommends that authorship be based on the following 4 criteria:

</span></p><p style="margin-left:0.75in" class="">

<span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class=""><span class="">1.<span class="">     

</span></span></span><span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class="">Substantial contributions to the conception or design of the work; or the acquisition, analysis, or interpretation of data for the work; AND</span></p><p style="margin-left:0.75in" class="">

<span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class=""><span class="">2.<span class="">     

</span></span></span><span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class="">Drafting the work or revising it critically for important intellectual content; AND

</span></p><p style="margin-left:0.75in" class="">

<span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class=""><span class="">3.<span class="">     

</span></span></span><span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class="">Final approval of the version to be published; AND

</span></p><p style="margin-left:0.75in" class="">

<span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class=""><span class="">4.<span class="">     

</span></span></span><span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class="">Agreement to be accountable for all aspects of the work in ensuring that questions related to the accuracy or integrity of any part of the work are appropriately

 investigated and resolved.</span></p><p style="margin-left:0.75in" class="">

<span style="font-size:10pt;line-height:107%;font-family:Helvetica,sans-serif" class=""><br class="">

</span></p><div class=""><br class="webkit-block-placeholder"></div><p class=""><br class="">

</p>

</div>

</blockquote></div>

_______________________________________________<br class="">Vp-integration-subgroup mailing list<br class=""><a href="mailto:Vp-integration-subgroup@lists.simtk.org" class="">Vp-integration-subgroup@lists.simtk.org</a><br class="">https://lists.simtk.org/mailman/listinfo/vp-integration-subgroup<br class=""></div></blockquote></div><br class=""><span>_______________________________________________</span><br><span>Vp-reproduce-subgroup mailing list</span><br><span>Vp-reproduce-subgroup@lists.simtk.org</span><br><span>https://lists.simtk.org/mailman/listinfo/vp-reproduce-subgroup</span><br></div></body></html>